Digitaalinen elämä lisää inhimillisiä kykyjä ja häiritsee ihmisen ikiaikaisia toimintoja. Koodipohjaiset järjestelmät ovat levinneet yli puolelle maailman asukkaista ympäristön informaation ja yhteyksien välityksellä, mikä tarjoaa ennennäkemättömiä mahdollisuuksia ja ennennäkemättömiä uhkia. Kun kehittyvä algoritmipohjainen tekoäly (AI) jatkaa leviämistään, ovatko ihmiset nykyistä paremmassa asemassa?
Noin 979 teknologiapioneeria, innovaattoria, kehittäjää, liike-elämän ja politiikan johtajaa, tutkijaa ja aktivistia vastasi tähän kysymykseen kesällä 2018 toteutetussa asiantuntijakyselyssä.
Asiantuntijat ennustivat verkostoituneen tekoälyn lisäävän ihmisen tehokkuutta, mutta myös uhkaavan ihmisen itsemääräämisoikeutta, toimijuutta ja kykyjä. He puhuivat laajoista mahdollisuuksista; siitä, että tietokoneet saattavat vastata ihmisen älykkyyttä ja kykyjä tai jopa ylittää ne sellaisissa tehtävissä kuin monimutkainen päätöksenteko, päättely ja oppiminen, kehittynyt analytiikka ja hahmontunnistus, visuaalinen terävyys, puheentunnistus ja kielen kääntäminen. He sanoivat, että ”älykkäät” järjestelmät yhteisöissä, ajoneuvoissa, rakennuksissa ja yleishyödyllisissä laitoksissa, maatiloilla ja liiketoimintaprosesseissa säästävät aikaa, rahaa ja ihmishenkiä ja tarjoavat yksilöille mahdollisuuksia nauttia räätälöidyimmästä tulevaisuudesta.
Monet keskittyivät toiveikkaissa puheissaan terveydenhuoltoon ja tekoälyn moniin mahdollisiin sovelluksiin, jotka liittyvät potilaiden diagnosointiin ja hoitoon tai jotka voivat auttaa ikääntyneitä kansalaisia elämään täysipainoisempaa ja terveempää elämää. He olivat myös innostuneita tekoälyn roolista edistettäessä laajoja kansanterveysohjelmia, jotka perustuvat valtaviin tietomääriin, joita voidaan kerätä tulevina vuosina kaikesta henkilökohtaisesta genomista ravitsemukseen. Lisäksi monet näistä asiantuntijoista ennustivat, että tekoäly edistäisi kauan odotettuja muutoksia virallisissa ja epävirallisissa koulutusjärjestelmissä.
Mutta useimmat asiantuntijat, olivatpa he optimistisia tai eivät, ilmaisivat huolensa näiden uusien työkalujen pitkäaikaisista vaikutuksista ihmisenä olemisen olennaisiin elementteihin. Kaikkia tähän ei-tieteelliseen kyselyyn vastanneita pyydettiin tarkentamaan, miksi heidän mielestään tekoäly jättää ihmiset paremmaksi vai ei. Monet jakoivat syviä huolia, ja monet myös ehdottivat ratkaisuja. Tärkeimmät teemat, joita he esittivät uhkista ja korjaustoimenpiteistä, on esitetty oheisessa taulukossa.
Koäly ja ihmisten tulevaisuus: Asiantuntijat ilmaisevat huolensa ja ehdottavat ratkaisuja
| Mayhem: Autonomiset aseet, kyberrikollisuus ja aseistettu informaatio |
Jotkut ennustavat perinteisten sosiopoliittisten rakenteiden jatkuvaa rapautumista ja suurten ihmishenkien menetysten mahdollisuutta autonomisten sotilaallisten sovellusten kiihtyvän kasvun ja aseistetun informaation, valheiden ja propagandan käytön vuoksi ihmisryhmien vaarallisen horjuttamiseksi. Jotkut pelkäävät myös kyberrikollisten ulottuvan talousjärjestelmiin. | |
PEW RESEARCH CENTER AND ELON UNIVERSITY’S IMAGINING THE INTERNET CENTER
Kohtaisesti osallistujia pyydettiin miettimään seuraavaa:
”Pyydän teitä miettimään eteenpäin vuoteen 2030. Analyytikot odottavat, että ihmiset tulevat entistä riippuvaisemmiksi verkottuneesta tekoälystä (AI) monimutkaisissa digitaalisissa järjestelmissä. Jotkut sanovat, että jatkamme historiallista kaarta elämämme täydentämisessä enimmäkseen myönteisin tuloksin, kun otamme nämä verkottuneet työkalut laajasti käyttöön. Jotkut sanovat, että lisääntyvä riippuvuutemme näistä tekoäly- ja niihin liittyvistä järjestelmistä johtaa todennäköisesti laajoihin vaikeuksiin.
Kysymyksemme: Pidättekö todennäköisimpänä, että vuoteen 2030 mennessä kehittyvä tekoäly ja siihen liittyvät teknologiajärjestelmät parantavat ihmisen kykyjä ja voimaannuttavat häntä? Toisin sanoen suurin osa ihmisistä tulee olemaan nykyistä paremmassa asemassa? Vai onko todennäköisintä, että kehittyvä tekoäly ja siihen liittyvät teknologiajärjestelmät vähentävät ihmisen autonomiaa ja toimijuutta siinä määrin, että useimmilla ihmisillä ei tule olemaan nykyistä parempaa elämää?”
Kaiken kaikkiaan ja pelkäämistään haittatekijöistä huolimatta 63 prosenttia kyselyyn vastanneista sanoi olevansa toiveikkaita sen suhteen, että useimmilla yksilöillä on enimmäkseen paremmat oltavat vuonna 2030, ja 37 prosenttia sanoi, että ihmisillä ei tule olemaan parempia oloja.
Määrät tähän kyselyyn osallistuneista ajatusjohtajista totesivat, että ihmisten kasvava riippuvuus teknologisista järjestelmistä sujuu hyvin vain, jos kiinnitetään tarkkaa huomiota siihen, miten nämä työkalut, alustat ja verkostot suunnitellaan, jaetaan ja päivitetään. Joitakin voimakkaita, kaiken kattavia vastauksia antoivat muun muassa:
Sonia Katyal, Berkeleyn laki- ja teknologiakeskuksen toinen johtaja ja Yhdysvaltain kauppaministeriön digitaalisen talouden neuvonantajaneuvoston jäsen, ennusti: ”Vuonna 2030 suurimmat kysymykset liittyvät siihen, miten tekoälyä ja sen soveltamista koskevat käsitykset vaikuttavat kansalaisoikeuksien kehityskulkuun tulevaisuudessa”. Kysymykset yksityisyydestä, puheesta, kokoontumisoikeudesta ja henkilöllisyyden teknologisesta rakentamisesta nousevat kaikki uudelleen esiin tässä uudessa tekoälykontekstissa ja asettavat kyseenalaiseksi syvimmät uskomuksemme tasa-arvosta ja mahdollisuuksista kaikille. Se, ketkä hyötyvät ja ketkä joutuvat epäedulliseen asemaan tässä uudessa maailmassa, riippuu siitä, miten laajasti analysoimme näitä kysymyksiä tänään, tulevaisuutta varten.”
Meidän on työskenneltävä aggressiivisesti varmistaaksemme, että teknologia vastaa arvojamme.”
Erik Brynjolfsson
Erik Brynjolfsson, MIT:n digitaalista taloutta käsittelevän aloitteen (MIT:n Digital Economy Initiative on the Digital Economy) johtaja ja kirjoittaja, joka on kirjoittanut teoksen ”Machine, Platform, Crowd: Harnessing Our Digital Future”, sanoi: ”Tekoäly ja siihen liittyvät teknologiat ovat jo saavuttaneet yli-inhimillisiä suorituksia monilla aloilla, eikä ole epäilystäkään siitä, etteivätkö niiden kyvyt parane, todennäköisesti hyvin merkittävästi, vuoteen 2030 mennessä. … Mielestäni on todennäköisempää, että käytämme tätä voimaa tekemään maailmasta paremman paikan”. Voimme esimerkiksi käytännössä poistaa maailmanlaajuisen köyhyyden, vähentää massiivisesti sairauksia ja tarjota parempaa koulutusta lähes kaikille maapallon asukkaille. Tekoälyä ja ML:ää voidaan kuitenkin käyttää myös rikkauksien ja vallan keskittämiseen, jolloin monet ihmiset jäävät jälkeen, ja entistä kauhistuttavampien aseiden luomiseen. Kumpikaan lopputulos ei ole väistämätön, joten oikea kysymys ei ole ”Mitä tapahtuu?” vaan ”Mitä päätämme tehdä?”. Meidän on työskenneltävä aggressiivisesti varmistaaksemme, että teknologia vastaa arvojamme. Tätä voidaan ja pitää tehdä kaikilla tasoilla, hallituksesta yrityksiin, akateemiseen maailmaan ja yksilön valintoihin.”
Bryan Johnson, johtavan kehittyneiden hermorajapintojen kehittäjän Kernelin ja pääomasijoitusyhtiö OS Fundin perustaja ja toimitusjohtaja, sanoi: ”Uskon vahvasti, että vastaus riippuu siitä, pystymmekö muuttamaan talousjärjestelmiämme siten, että ne asettavat etusijalle radikaalit inhimilliset parannukset ja pysäyttävät trendin, joka tähtää siihen, että ihminen ei ole enää merkityksellinen tekoälyssä. En tarkoita vain työpaikkoja, vaan todellista, eksistentiaalista merkityksettömyyttä, joka on lopputulos siitä, että ihmisen hyvinvointia ja kognitiota ei aseteta etusijalle.”
Tulevaisuusinstituutin toiminnanjohtaja Marina Gorbis sanoi: ”Ilman merkittäviä muutoksia poliittisessa taloudessa ja tiedonhallintajärjestelmissä syntyy todennäköisesti suurempaa taloudellista epätasa-arvoa, enemmän valvontaa ja enemmän ohjelmoitua ja ei-ihmiskeskeistä vuorovaikutusta. Aina kun ohjelmoimme ympäristömme, ohjelmoimme samalla itsemme ja vuorovaikutuksemme. Ihmisten on vakioiduttava ja poistettava vuorovaikutuksestamme sattumanvaraisuus ja monitulkintaisuus. Ja juuri tämä monitulkintaisuus ja monimutkaisuus on ihmisenä olemisen ydin.”
Judith Donath, joka on kirjoittanut teoksen ”The Social Machine, Designs for Living Online” ja on Harvardin yliopiston Berkman Klein Center for Internet & Society tiedekunnan stipendiaatti, kommentoi: ”Vuoteen 2030 mennessä suurinta osaa sosiaalisista tilanteista helpottavat botit – älykkäiltä vaikuttavat ohjelmat, jotka ovat vuorovaikutuksessa kanssamme ihmismäisellä tavalla. Kotona vanhemmat käyttävät taitavia botteja auttamaan lapsia kotitehtävien tekemisessä ja käynnistämään päivälliskeskusteluja. Töissä robotit johtavat kokouksia. Robotti-luottamusmiestä pidetään psykologisen hyvinvoinnin kannalta välttämättömänä, ja käännymme yhä useammin tällaisten kumppaneiden puoleen saadaksemme neuvoja aina siitä, mihin pukeutua ja kenen kanssa mennä naimisiin. Me ihmiset välitämme syvästi siitä, miten muut näkevät meidät – ja ne muut, joiden hyväksyntää etsimme, ovat yhä useammin keinotekoisia. Siihen mennessä ihmisten ja robottien välinen ero on hämärtynyt huomattavasti. Robottien ääntä, ulkonäköä ja käyttäytymistä ei voi enää erottaa ihmisen äänestä, ja jopa fyysiset robotit, vaikka ne eivät selvästikään ole ihmisiä, ovat niin vakuuttavan vilpittömiä, että vaikutelmamme niistä ajattelevina ja tuntevina olentoina, jotka ovat kanssamme tasavertaisia tai jopa parempia kuin me itse olemme, on horjumaton. Epäselvyyttä lisää vielä se, että omaa viestintäämme tehostetaan voimakkaasti: Ohjelmat laativat monia viestejämme, ja online/AR-esiintymisemme on laskennallisesti muotoiltu. (Raaka, apuvälineettömän ihmisen puhe ja käytös vaikuttavat kiusallisen kömpelöltä, hitaalta ja kehittymättömältä.) Koska robotit pääsevät käsiksi valtaviin tietomääriin meistä jokaisesta, niiden kyky houkutella ja suostutella meitä on paljon parempi kuin ihmisten. Ne kykenevät matkimaan tunteita asiantuntevasti, eivätkä tunteet saa niitä koskaan valtaansa: Jos ne räksyttävät jotain vihaisena, se johtuu siitä, että käyttäytyminen on laskettu tehokkaimmaksi tavaksi edistää niitä tavoitteita, joita niillä on ”mielessään”. Mutta mitä nämä tavoitteet ovat? Keinoälykkäät kumppanit luovat vaikutelman, että heitä motivoivat samankaltaiset sosiaaliset tavoitteet kuin meitä itseämme – tulla arvostetuksi, olipa kyseessä sitten rakas ystävä, ihailtu pomo jne. Todellinen yhteistyö tapahtuu kuitenkin niiden ihmisten ja instituutioiden kanssa, jotka niitä hallitsevat. Nykyisten edeltäjiensä tavoin nämä tulevat olemaan tavaranmyyjiä, jotka käyttävät niitä kulutuksen edistämiseen, ja poliitikkoja, jotka tilaavat niitä mielipiteiden muokkaamiseen.”
Yalen yliopiston innovatiivisen ajattelun keskuksen johtaja Andrew McLaughlin, joka on aiemmin ollut presidentti Barack Obaman Yhdysvaltain teknologiapäällikön sijainen ja Googlen globaalia julkista politiikkaa johtava asiantuntija, kirjoitti: ”Vuosi 2030 ei ole kaukana tulevaisuudessa. Minusta tuntuu, että internetin ja verkottuneen tekoälyn kaltaisilla innovaatioilla on valtavia lyhyen aikavälin hyötyjä ja pitkän aikavälin haittoja, joiden havaitseminen voi kestää vuosikymmeniä. Tekoäly edistää monenlaisia tehokkuuden optimointeja, mutta mahdollistaa myös piilosyrjinnän ja yksilöiden mielivaltaisen rankaisemisen esimerkiksi vakuutuksissa, työnhaussa ja suorituskyvyn arvioinnissa.”
Michael M. Roberts, ICANNin (Internet Corporation for Assigned Names and Numbers) ensimmäinen puheenjohtaja ja toimitusjohtaja ja Internet Hall of Fame -järjestön jäsen, kirjoitti: ”Älykkäiden asiamiesten mahdollisuudet lisätä ihmisälykkyyttä ovat edelleen lähes rajattomat. Suurin ongelma on se, että mitä kätevämpi agentti on, sitä enemmän sen on tiedettävä ihmisestä – mieltymykset, ajoitus, valmiudet jne. – mikä aiheuttaa kompromissin: enemmän apua vaatii enemmän tunkeutumista. Tämä ei ole mustavalkoinen kysymys – harmaan sävyistä ja niihin liittyvistä korjaustoimenpiteistä voidaan kiistellä loputtomiin. Tähän mennessä on todettu, että mukavuus voittaa yksityisyyden suojan. Epäilen, että tämä tulee jatkumaan.”
Danah Boyd, Microsoftin johtava tutkija ja Data & Society Research Instituten perustaja ja puheenjohtaja, sanoi: ”Tekoäly on työkalu, jota ihmiset tulevat käyttämään kaikenlaisiin tarkoituksiin, myös vallan tavoitteluun. Vallan väärinkäyttöön liittyy tekoälyä, mutta myös tieteen ja humanitaaristen toimien edistysaskeleet liittyvät tekoälyyn. Valitettavasti on olemassa tiettyjä kehityslinjoja, jotka todennäköisesti aiheuttavat massiivista epävakautta. Otetaan esimerkiksi ilmastonmuutos ja ilmastomuutto. Tämä horjuttaa entisestään Euroopan ja Yhdysvaltojen epävakautta, ja odotan, että paniikissa tulemme näkemään tekoälyä käytettävän haitallisilla tavoilla muiden geopoliittisten kriisien yhteydessä.”
Amy Webb, Future Today -instituutin perustaja ja New Yorkin yliopiston strategisen ennakoinnin professori, kommentoi: ”Yhdysvalloissa ja monissa muissa maailman maissa tällä hetkellä käytössä olevia sosiaalisia turvaverkkorakenteita ei ole suunniteltu tekoälyyn siirtymistä varten. Siirtyminen tekoälyn avulla kestää seuraavat 50 vuotta tai kauemmin. Kun siirrymme yhä pidemmälle tähän tietojenkäsittelyn kolmanteen aikakauteen ja kun jokainen yksittäinen toimiala syventyy tekoälyjärjestelmiin, tarvitsemme uusia hybridiosaajia, jotka pystyvät toimimaan sellaisissa tehtävissä, joita ei ole koskaan aiemmin tarvinnut olla olemassa”. Tarvitsemme maanviljelijöitä, jotka osaavat työskennellä suurten tietokokonaisuuksien kanssa. Onkologeja, jotka on koulutettu robottihoitajiksi. Sähköinsinööreiksi koulutettuja biologeja. Meidän ei tarvitse valmistaa työvoimaamme vain kerran, muutamalla opetussuunnitelmaan tehtävällä muutoksella. Kun tekoäly kypsyy, tarvitsemme reagoivaa työvoimaa, joka pystyy sopeutumaan uusiin prosesseihin, järjestelmiin ja työkaluihin muutaman vuoden välein. Näiden alojen tarve syntyy nopeammin kuin työvoimaministeriöt, koulut ja yliopistot huomioivat. Historiaa on helppo katsoa taaksepäin nykyhetken linssin läpi – ja jättää huomiotta laajalle levinneen teknologiatyöttömyyden aiheuttamat yhteiskunnalliset levottomuudet. Meidän on puututtava vaikeaan totuuteen, jota vain harvat ovat valmiita sanomaan ääneen: Tekoäly aiheuttaa lopulta sen, että suuri osa ihmisistä jää pysyvästi työttömäksi. Aivan kuten aiemmat sukupolvet joutuivat todistamaan laajoja muutoksia teollisen vallankumouksen aikana ja sen jälkeen, teknologian nopea vauhti merkitsee todennäköisesti sitä, että suuret ikäluokat ja X-sukupolven vanhimmat jäsenet – erityisesti ne, joiden työpaikat voidaan kopioida roboteilla – eivät pysty kouluttautumaan uudelleen toisenlaisiin työtehtäviin ilman huomattavaa panostusta aikaansa ja vaivaansa.”
Barry Chudakov, Sertain Researchin perustaja ja pääjohtaja, kommentoi: ”Vuoteen 2030 mennessä ihmisen, koneen ja tekoälyn yhteistyö on välttämätön väline useiden samanaikaisten kiihtyvyyksien vaikutusten hallitsemiseksi ja torjumiseksi: laaja teknologinen kehitys, globalisaatio, ilmastonmuutos ja niihin liittyvät maailmanlaajuiset muuttoliikkeet. Aikaisemmin ihmisyhteisöt hallitsivat muutosta vaiston ja intuition avulla, mutta kuten Google X:n toimitusjohtaja Eric Teller on sanonut: ”Yhteiskunnalliset rakenteemme eivät pysy muutoksen tahdissa”. Jotta pystymme pysymään muutoksen tahdissa ja hallitsemaan vuoteen 2030 mennessä kasvavaa joukkoa ”pahanlaatuisia ongelmia”, tekoäly – tai Joi Iton ilmaisua ”laajennettu älykkyys” käyttäen – tulee arvostamaan ja uudelleenarvostamaan käytännöllisesti katsoen kaikki ihmisen käyttäytymisen ja vuorovaikutuksen osa-alueet. Tekoäly ja kehittyvät teknologiat muuttavat reagointikehyksemme ja aikakehyksemme (mikä puolestaan muuttaa ajantajuamme). Kun ennen sosiaalinen vuorovaikutus tapahtui paikoissa – työ-, koulu-, kirkko- ja perheympäristöissä – sosiaalinen vuorovaikutus tapahtuu yhä useammin jatkuvassa, samanaikaisessa ajassa. Jos olemme onnekkaita, noudatamme elämän tulevaisuusinstituutin (Future of Life Institute) hahmottelemia 23 Asilomarin tekoälyperiaatetta ja työskentelemme kohti ”ei ohjaamatonta älykkyyttä vaan hyödyllistä älykkyyttä”. Samoin kuin vastavuoroisesti taatusta tuhosta johtuva ydinpelote, tekoäly ja siihen liittyvät teknologiajärjestelmät ovat moraalisen renessanssin voima. Meidän on omaksuttava tämä moraalinen renessanssi, tai kohtaamme moraalisia ongelmia, jotka voivat johtaa ihmiskunnan tuhoon. … Suurin toiveeni ihmisen, koneen ja tekoälyn välisestä yhteistyöstä on moraalinen ja eettinen renessanssi – omaksumme moonshot-mentaliteetin ja lukitsemme aseet valmistautuaksemme meitä kohti tulevaan kiihtyvään kehitykseen. Suurin pelkoni on, että omaksumme kehittyvien teknologioiden logiikan – välitön reagointi, eristäytyminen näyttöjen taakse, loputon itsearvostuksen vertailu, valheellinen itsensä esittäminen – ajattelematta tai reagoimatta älykkäästi.”
John C. Havens, IEEE:n autonomisten ja älykkäiden järjestelmien etiikkaa käsittelevän maailmanlaajuisen aloitteen (IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems) ja laajennetun älykkyyden neuvoston (Council on Extended Intelligence) toiminnanjohtaja, kirjoitti: ”Nyt, vuonna 2018, suurin osa ihmisistä ympäri maailmaa ei pääse käsiksi tietoihinsa, joten kaikissa ’ihmisen ja tekoälyn lisäyksestä’ käytävissä keskusteluissa jätetään huomiotta kriittinen konteksti siitä, kuka tosiasiassa kontrolloi ihmisten tietoja ja identiteettiä. Pian on äärimmäisen vaikeaa tunnistaa mitään autonomisia tai älykkäitä järjestelmiä, joiden algoritmit eivät ole vuorovaikutuksessa ihmisen tietojen kanssa tavalla tai toisella.”
Vaakalaudalla ei ole vähempää kuin se, millaisessa yhteiskunnassa haluamme elää ja miten koemme ihmisyytemme.Batya Friedman
Batya Friedman, ihmisen ja tietokoneen vuorovaikutuksen professori Washingtonin yliopiston informaatiokoulussa, kirjoitti: ”Tieteelliset ja teknologiset kykymme ovat ylittäneet ja tulevat jatkossakin ylittämään reilusti moraaliset kykymme – eli kykymme käyttää viisaasti ja inhimillisesti kehittämiämme tietoja ja välineitä. … Automatisoitu sodankäynti – kun autonomiset aseet tappavat ihmisiä ilman ihmisen osallistumista – voi johtaa siihen, että vihollisen hengen riistämisestä ei kanneta vastuuta tai että ei edes tiedetä, että vihollisen henki on riistetty. Vaakalaudalla ei ole vähempää kuin se, millaisessa yhteiskunnassa haluamme elää ja miten koemme ihmisyytemme.”
Greg Shannon, Carnegie Mellon -yliopiston CERT-osaston johtava tutkija, sanoi: ”Parempi/huonompi ilmestyy 4:1, kun pitkän aikavälin suhde on 2:1. Tekoäly tulee pärjäämään hyvin toistuvissa töissä, joissa ’lähellä’ on riittävän hyvä ja ihmiset inhoavat työtä. … Elämästä tulee ehdottomasti parempaa, kun tekoäly pidentää elinikää, alkaen terveyssovelluksista, jotka älykkäästi ’tönäisevät’ meitä kohti terveyttä, varoituksista lähestyvistä sydän- tai aivohalvaustapahtumista ja automatisoidusta terveydenhoidosta heikossa asemassa oleville (etähoito) ja pitkäaikaista hoitoa tarvitseville (vanhustenhoito). Vapauteen liittyy selviä riskejä. Tekoäly vaikuttaa toimijuuteen luomalla yksiköitä, joilla on merkittävät älylliset valmiudet valvoa, valvoa ja jopa rangaista yksilöitä. Niillä, jotka osaavat käyttää sitä, on valtava potentiaalinen valta niihin nähden, jotka eivät osaa tai pysty sitä käyttämään. Tulevaisuuden onnellisuus on todella epäselvä. Jotkut luovuttavat toimijuutensa tekoälylle peleissä, työssä ja yhteisössä, aivan kuten opioidikriisi varastaa toimijuuden nykyään. Toisaalta monet vapautuvat arkipäiväisistä, ei-kiinnostavista tehtävistä/työstä. Jos yhteisöllisen onnellisuuden elementit ovat osa tekoälyn tavoitefunktioita, tekoäly voi käynnistää onnellisuuden räjähdysmäisen kasvun.”
Kostas Alexandridis, joka on kirjoittanut teoksen ”Exploring Complex Dynamics in Multi-agent-based Intelligent Systems” (Moniagenttipohjaisten älykkäiden järjestelmien kompleksisen dynamiikan tutkiminen), ennusti seuraavaa: ”Monet päivittäisistä päätöksistämme automatisoituvat niin, että niiden tekemiseen ei tarvitse puuttua juuri lainkaan loppukäyttäjältä. Itsenäisyys ja/tai riippumattomuus uhrataan ja korvataan mukavuudella. Kansalaisten uusista sukupolvista tulee yhä riippuvaisempia verkottuneista tekoälyrakenteista ja -prosesseista. Kriittiseen ajatteluun ja heterogeenisuuteen liittyy haasteita. Verkottunut keskinäisriippuvuus lisää todennäköisesti haavoittuvuuttamme kyberhyökkäyksille. On myös hyvin todennäköistä, että digitaalisten ”varakkaiden” ja ”varattomien” sekä teknologisesti riippuvaisten digitaalisten infrastruktuurien välille syntyy entistä jyrkempi jako. Lopuksi on kysymys digitaalisen verkkoinfrastruktuurin omistuksen ja hallinnan uusista ’komentokorkeuksista’.”
Oscar Gandy, Pennsylvanian yliopiston viestinnän emeritusprofessori, vastasi: ”Jo nyt meillä on edessämme myöntämätön oletus, kun meitä pyydetään kuvittelemaan ihmisen ja koneen ’yhteistyötä’. Vuorovaikutus on hieman erilaista, mutta sitä varjostaa edelleen se, että koneille myönnetään eräänlainen identiteetti – ehkä jopa henkilöllisyys – jota käytämme selviytyäksemme kaikenlaisista mahdollisuuksista ja haasteista. Tulevaisuudessa kohtaamamme ongelmat ovat melko samanlaisia kuin ne ongelmat, joita kohtaamme tällä hetkellä, kun luotamme ’toisiin’ (mukaan lukien teknologiset järjestelmät, laitteet ja verkostot) hankkiessamme arvokkaita asioita ja välttäessämme noita muita asioita (joista saatamme olla tai emme ole tietoisia).”
James Scofield O’Rourke, johtamisen professori Notre Damen yliopistosta, sanoi: ”Teknologia on ollut koko kirjatun historian ajan pitkälti neutraali käsite. Kysymys sen arvosta on aina riippunut sen soveltamisesta. Mihin tarkoitukseen tekoälyä ja muita teknologisia edistysaskeleita käytetään? Kaikkea ruutista polttomoottoreihin ja ydinfissioon on sovellettu sekä hyödyllisellä että tuhoavalla tavalla. Olettaen, että pystymme hillitsemään tai hallitsemaan tekoälyä (eikä päinvastoin), vastaus siihen, onko meillä parempi olla, riippuu täysin meistä (tai jälkeläisistämme). ”Vika, rakas Brutus, ei ole tähdissämme, vaan meissä itsessämme, että olemme alamaisia.”
Simon Biggs, Edinburghin yliopiston monitieteisten taiteiden professori, sanoi: ”Tekoäly tulee toimimaan niin, että se lisää ihmisen kykyjä. Ongelma ei ole tekoälyssä vaan ihmisissä. Lajina olemme aggressiivisia, kilpailuhenkisiä ja laiskoja. Olemme myös empaattisia, yhteisöllisiä ja (joskus) uhrautuvia. Meillä on monia muitakin ominaisuuksia. Näitä kaikkia tullaan vahvistamaan. Kun otetaan huomioon historialliset ennakkotapaukset, on syytä olettaa, että pahimmat ominaisuutemme vahvistuvat. Odotukseni on, että vuonna 2030 tekoäly on rutiinikäytössä sotien käymisessä ja ihmisten tappamisessa paljon tehokkaammin kuin me pystymme tällä hetkellä tappamaan. Yhteiskuntana tämä vaikuttaa meihin vähemmän kuin tällä hetkellä, koska emme taistele ja tapa itse. Kykymme muuttaa käyttäytymistämme empatian ja siihen liittyvän eettisen kehyksen avulla vähenee, kun toimijuutemme ja tappamisen välinen yhteys katkeaa. Emme voi odottaa tekoälyjärjestelmiemme olevan eettisiä puolestamme – ne eivät tule olemaan, koska ne suunnitellaan tappamaan tehokkaasti, ei harkitusti. Toinen ensisijainen huolenaiheeni liittyy valvontaan ja kontrollointiin. Kiinan sosiaalisen luoton järjestelmän (Social Credit System, SCS) käyttöönotto on osoitus siitä, mitä todennäköisesti on tulossa. Me tulemme olemaan SCS:ssä tekoälyn rakentamina hybridi-instansseina itsestämme, jotka voivat muistuttaa tai olla muistuttamatta meitä itseämme. Oikeutemme ja mahdollisuutemme yksilöinä määräytyvät kuitenkin SCS:n mukaan. Tämä on Orwellin painajainen, joka toteutuu.”
Mark Surman, Mozilla Foundationin toimitusjohtaja, vastasi: ”Tekoäly keskittää edelleen vallan ja varallisuuden muutamien suurten monopolien käsiin, jotka perustuvat Yhdysvaltoihin ja Kiinaan. Useimmat ihmiset – ja osa maailmaa – joutuvat huonompaan asemaan.”
William Uricchio, mediatutkija ja MIT:n vertailevan mediatutkimuksen professori, kommentoi: ”Tekoälyllä ja siihen liittyvillä sovelluksilla on kolme ongelmaa: kehitys Mooren lain nopeudella, kehitys teknologisen ja taloudellisen eliitin käsissä ja kehitys ilman, että siitä on hyötyä valistuneelle tai sitoutuneelle yleisölle.” (
). Yleisö on pelkistetty seuraavaa teknologiaa odottavaksi kuluttajien kollektiiviksi. Kenen käsitys ”edistyksestä” vallitsee? Meillä on runsaasti todisteita siitä, että tekoälyä käytetään voittojen tavoitteluun riippumatta siitä, miten se vaikuttaa pitkään pidettyihin arvoihin, ja että sitä käytetään hallituksen valvonnan lisäämiseen ja jopa kansalaisten ”sosiaalisen luottokelpoisuuden” arvioimiseen ilman kansalaisten omaa panosta. Kuten aiemmat teknologiat, tekoälykin on agnostinen. Sen käyttöönotto on yhteiskunnan käsissä. Ilman tekoälyyn perehtynyttä yleisöä päätös siitä, miten tekoälyä voidaan parhaiten hyödyntää, jää kuitenkin erityisintressien varaan. Merkitseekö tämä oikeudenmukaista käyttöä, sosiaalisen epäoikeudenmukaisuuden lieventämistä ja tekoälyn käyttöä julkisessa palveluksessa? Koska vastaus tähän kysymykseen on pikemminkin sosiaalinen kuin teknologinen, olen pessimistinen. Ratkaisu? Meidän on kehitettävä tekoälyä tunteva yleisö, mikä tarkoittaa, että koulutussektorilla ja yleisölle suunnatuissa tiedotusvälineissä on kiinnitettävä erityistä huomiota tekoälyyn. Meidän on varmistettava tekoälyteknologian kehittämisen monimuotoisuus. Ja ennen kuin kansalaiset, heidän vaaleilla valitut edustajansa ja heidän laki- ja sääntelyjärjestelmänsä pääsevät vauhtiin tämän nopeasti etenevän kehityksen kanssa, meidän on noudatettava varovaisuutta ja valvontaa tekoälyn kehityksessä.”
Tämän raportin loppuosa on jaettu kolmeen osaan, jotka perustuvat satojen vastaajien toiveikkaisiin ja kriittisiin havaintoihin: 1) huolenaiheet ihmisen ja tekoälyn kehityksestä, 2) ehdotetut ratkaisut tekoälyn vaikutusten käsittelemiseksi ja 3) odotukset siitä, millaista elämä on vuonna 2030, mukaan lukien vastaajien myönteiset näkemykset elämänlaadusta sekä työn, terveydenhuollon ja koulutuksen tulevaisuudesta. Joitakin vastauksia on kevyesti muokattu tyylin vuoksi.
