A digitális élet kibővíti az emberi képességeket és megzavarja az évszázados emberi tevékenységeket. A kódvezérelt rendszerek a környezeti információk és az összekapcsolhatóság révén a világ lakosságának több mint felére terjedtek el, korábban elképzelhetetlen lehetőségeket és soha nem látott fenyegetéseket kínálva. Ahogy az algoritmusvezérelt mesterséges intelligencia (AI) tovább terjed, az emberek jobb helyzetben lesznek-e, mint ma?
Ezekre a kérdésekre mintegy 979 technológiai úttörő, innovátor, fejlesztő, üzleti és politikai vezető, kutató és aktivista válaszolt egy 2018 nyarán szakértők körében végzett felmérés során.
A szakértők azt jósolták, hogy a hálózatba kapcsolt mesterséges intelligencia felerősíti az emberi hatékonyságot, ugyanakkor veszélyezteti az emberi autonómiát, cselekvőképességet és képességeket. Széleskörű lehetőségekről beszéltek; arról, hogy a számítógépek elérhetik vagy akár meg is haladhatják az emberi intelligenciát és képességeket olyan feladatokban, mint az összetett döntéshozatal, érvelés és tanulás, kifinomult analitika és mintafelismerés, vizuális éleslátás, beszédfelismerés és nyelvi fordítás. Azt mondták, hogy az “intelligens” rendszerek a közösségekben, a járművekben, az épületekben és a közművekben, a gazdaságokban és az üzleti folyamatokban időt, pénzt és életeket fognak megtakarítani, és lehetőséget kínálnak az egyének számára, hogy egy személyre szabottabb jövőt élvezzenek.
Elégedetten nyilatkoztak az egészségügyről és az AI számos lehetséges alkalmazásáról a betegek diagnosztizálásában és kezelésében vagy az idősek teljesebb és egészségesebb életének segítésében. Lelkesek voltak a mesterséges intelligencia szerepével kapcsolatban is, amely hozzájárulhat a széles körű közegészségügyi programokhoz, amelyek az elkövetkező években a személyes genomtól a táplálkozásig mindenről összegyűjthető hatalmas mennyiségű adatra épülnek. Ezen kívül számos szakértő azt jósolta, hogy a mesterséges intelligencia elősegíti majd a formális és informális oktatási rendszerekben régóta várt változásokat.
A legtöbb szakértő azonban – függetlenül attól, hogy optimisták-e vagy sem – aggodalmát fejezte ki az új eszközöknek az emberi lét alapvető elemeire gyakorolt hosszú távú hatásával kapcsolatban. Ebben a nem tudományos felmérésben minden válaszadót megkértek, hogy fejtse ki, miért gondolja úgy, hogy a mesterséges intelligencia jobb helyzetbe fogja hozni az embereket vagy sem. Sokan osztották meg mély aggodalmukat, és sokan javasoltak megoldási lehetőségeket is. A veszélyekről és a megoldásokról elhangzott főbb témákat a mellékelt táblázatban vázoljuk fel.
Az AI és az emberek jövője: A szakértők aggodalmakat fejeznek ki és megoldásokat javasolnak
| Mayhem: Autonóm fegyverek, kiberbűnözés és fegyveresített információ |
Egy részük a hagyományos társadalmi-politikai struktúrák további erózióját és nagy emberáldozatok lehetőségét jósolja az autonóm katonai alkalmazások felgyorsult növekedése és a fegyveresített információ, hazugság és propaganda használata miatt az emberi csoportok veszélyes destabilizálására. Egyesek attól is tartanak, hogy a kiberbűnözők elérik a gazdasági rendszereket. | |
PEW RESEARCH CENTER AND ELON UNIVERSITY’S IMAGINING THE INTERNET CENTER
Konkrétan a résztvevőknek a következőket kellett megfontolniuk:
“Kérjük, gondoljon előre a 2030-as évre. Elemzők arra számítanak, hogy az emberek még inkább függővé válnak a hálózatba kapcsolt mesterséges intelligenciától (AI) az összetett digitális rendszerekben. Egyesek szerint az életünk bővítésének történelmi ívét fogjuk folytatni, többnyire pozitív eredményekkel, ahogy széles körben alkalmazzuk ezeket a hálózatba kapcsolt eszközöket. Mások szerint az ezektől a mesterséges intelligenciától és a kapcsolódó rendszerektől való növekvő függőségünk valószínűleg széleskörű nehézségekhez fog vezetni.
Kérdésünk: Ön szerint 2030-ra a legvalószínűbb, hogy a fejlődő mesterséges intelligencia és a kapcsolódó technológiai rendszerek növelni fogják az emberi képességeket és képessé teszik őket? Vagyis a legtöbb embernek jobb lesz a helyzete, mint ma? Vagy az a legvalószínűbb, hogy a fejlődő mesterséges intelligencia és a kapcsolódó technológiai rendszerek olyan mértékben fogják csökkenteni az emberi autonómiát és cselekvőképességet, hogy a legtöbb ember nem lesz jobb helyzetben, mint ma?”
Az általuk féltett hátrányok ellenére a felmérésben részt vevő válaszadók 63%-a reménykedik abban, hogy a legtöbb ember 2030-ban többnyire jobb helyzetben lesz, 37%-uk pedig azt mondta, hogy az emberek nem lesznek jobb helyzetben.
A felmérésben részt vevő gondolkodók közül többen azt mondták, hogy az emberek növekvő függősége a technológiai rendszerektől csak akkor fog jól menni, ha nagy figyelmet fordítanak arra, hogy ezeket az eszközöket, platformokat és hálózatokat hogyan tervezik, terjesztik és frissítik. Az erőteljes, átfogó válaszok közül néhányat többek között:
Sonia Katyal, a Berkeley Center for Law and Technology társigazgatója és az Egyesült Államok Kereskedelmi Minisztériumának digitális gazdasággal foglalkozó tanácsadó testületének tagja a következőket jósolta: “2030-ban a legnagyobb kérdéskör az lesz, hogy a mesterséges intelligenciával kapcsolatos felfogás és annak alkalmazása hogyan fogja befolyásolni a polgári jogok jövőbeli alakulását. A magánélet védelmével, a szólással, a gyülekezési joggal és a személyiség technológiai konstrukciójával kapcsolatos kérdések mind újra fel fognak merülni ebben az új AI-kontextusban, megkérdőjelezve az egyenlőséggel és a mindenki számára biztosított lehetőségekkel kapcsolatos legmélyebb meggyőződéseinket. Hogy ebben az új világban ki lesz előnyös és ki lesz hátrányos helyzetben, az attól függ, hogy mennyire átfogóan elemezzük ezeket a kérdéseket ma, a jövőre nézve.”
Agresszívan kell dolgoznunk azon, hogy a technológia megfeleljen értékeinknek.” Erik Brynjolfsson
Erik Brynjolfsson, az MIT digitális gazdasággal foglalkozó kezdeményezésének igazgatója és a “Machine, Platform, Crowd: Harnessing Our Digital Future” című könyvének szerzője szerint: “A mesterséges intelligencia és a kapcsolódó technológiák számos területen már most is emberfeletti teljesítményt érnek el, és aligha kétséges, hogy képességeik 2030-ra – valószínűleg nagyon jelentősen – javulni fognak. … Úgy vélem, valószínűbb, hogy ezt az erőt arra fogjuk használni, hogy jobbá tegyük a világot. Például gyakorlatilag megszüntethetjük a globális szegénységet, tömegesen csökkenthetjük a betegségeket, és jobb oktatást biztosíthatunk szinte mindenkinek a bolygón. Ugyanakkor a mesterséges intelligencia és az ML arra is felhasználható, hogy a gazdagság és a hatalom egyre inkább koncentrálódjon, sok embert hátrahagyva, és hogy még borzalmasabb fegyvereket hozzunk létre. Egyik kimenetel sem elkerülhetetlen, ezért a helyes kérdés nem az, hogy “Mi fog történni?”, hanem az, hogy “Mit fogunk tenni?”. Agresszívan kell dolgoznunk azon, hogy a technológia megfeleljen az értékeinknek. Ezt minden szinten meg lehet és meg is kell tenni, a kormánytól kezdve az üzleti életen és a tudományos életen át az egyéni döntésekig.”
Bryan Johnson, a fejlett neurális interfészek vezető fejlesztője, a Kernel és az OS Fund kockázati tőkebefektető cég alapítója és vezérigazgatója elmondta: “Határozottan úgy vélem, hogy a válasz attól függ, hogy képesek vagyunk-e gazdasági rendszereinket a radikális emberi fejlődés előtérbe helyezése és az emberi irrelevancia felé tartó tendencia megállítása felé fordítani az AI-vel szemben. Nem csak a munkahelyekre gondolok, hanem a valódi, egzisztenciális irrelevanciára, ami annak a végeredménye, ha az emberi jólét és megismerés nem élvez prioritást.”
Marina Gorbis, az Institute for the Future ügyvezető igazgatója szerint: “A politikai gazdaság és az adatkezelési rendszerek jelentős megváltoztatása nélkül valószínűleg nagyobb gazdasági egyenlőtlenségek, több felügyelet és több programozott és nem emberközpontú interakció jön létre. Minden alkalommal, amikor a környezetünket programozzuk, végül magunkat és interakcióinkat is programozzuk. Az embereknek szabványosabbá kell válniuk, eltávolítva a véletlenszerűséget és a kétértelműséget az interakcióinkból. És ez a kétértelműség és összetettség az, ami az emberi lét lényege.”
Judith Donath, a “The Social Machine, Designs for Living Online” című könyv szerzője és a Harvard Egyetem Berkman Klein Center for Internet & Society munkatársa így nyilatkozott: “2030-ra a legtöbb szociális helyzetet botok fogják megkönnyíteni – intelligensnek tűnő programok, amelyek emberhez hasonló módon lépnek kapcsolatba velünk. Otthon a szülők képzett robotokat fognak alkalmazni, hogy segítsenek a gyerekeknek a házi feladatokban és katalizálják a vacsorával kapcsolatos beszélgetéseket. A munkahelyen robotok fogják vezetni a megbeszéléseket. A pszichológiai jóléthez nélkülözhetetlen lesz a botok bizalmasa, és egyre gyakrabban fordulunk majd ilyen társakhoz tanácsokért, kezdve attól, hogy mit vegyünk fel, és kit vegyünk feleségül. Minket, embereket mélyen érdekel, hogy mások milyennek látnak minket – és azok a mások, akiknek a jóváhagyását keressük, egyre inkább mesterségesek lesznek. Addigra az emberek és a robotok közötti különbség jelentősen elmosódik. A képernyőn és a kivetítésen keresztül a robotok hangja, megjelenése és viselkedése megkülönböztethetetlen lesz az emberétől, és még a fizikai robotok is, bár nyilvánvalóan nem emberek, olyan meggyőzően őszinték lesznek, hogy megingathatatlan lesz az a benyomásunk, hogy gondolkodó, érző, velünk egyenrangú vagy fölöttünk álló lények. A kétértelműséget tovább fokozza, hogy a saját kommunikációnk erősen ki lesz egészítve: Programok fogják megkomponálni számos üzenetünket, és online/AR megjelenésünk számítógéppel lesz megalkotva. (A nyers, segédeszköz nélküli emberi beszéd és viselkedés kínosan nehézkesnek, lassúnak és kidolgozatlannak fog tűnni). A rólunk szóló hatalmas adathalmazokhoz való hozzáférésük révén a robotok messze felülmúlják majd az embereket abban, hogy képesek lesznek vonzani és meggyőzni minket. Képesek lesznek az érzelmek szakszerű utánzására, és soha nem fogják őket legyőzni az érzelmeik: Ha dühösen kirobbantanak valamit, az azért lesz, mert ezt a viselkedést úgy számították ki, hogy az a leghatékonyabb módja annak, hogy elérjék a “fejükben” lévő célokat. De mik is ezek a célok? A mesterségesen intelligens társak azt a benyomást fogják kelteni, hogy a miénkhez hasonló társadalmi célok motiválják őket – hogy jó megbecsülésben részesüljenek, akár szeretett barátként, akár csodált főnökként stb. De az igazi együttműködésük az őket irányító emberekkel és intézményekkel lesz. Akárcsak mai elődeik, ezek lesznek az árueladók, akik a fogyasztás ösztönzésére alkalmazzák őket, és a politikusok, akik a vélemények befolyásolására bízzák meg őket.”
Andrew McLaughlin, a Yale Egyetem Innovatív Gondolkodás Központjának ügyvezető igazgatója, korábban Barack Obama elnök amerikai technológiai igazgatóhelyettese és a Google globális közpolitikai vezetője írta: “2030 nincs messze a jövőben. Az az érzésem, hogy az olyan innovációk, mint az internet és a hálózatba kapcsolt mesterséges intelligencia, rövid távon hatalmas előnyökkel járnak, ugyanakkor hosszú távon olyan negatívumokkal, amelyek csak évtizedek múlva válnak felismerhetővé. A mesterséges intelligencia a hatékonyság optimalizálásának széles skáláját fogja elősegíteni, ugyanakkor rejtett diszkriminációt és az egyének önkényes büntetését is lehetővé teszi olyan területeken, mint a biztosítás, az álláskeresés és a teljesítményértékelés.”
Michael M. Roberts, az Internet Corporation for Assigned Names and Numbers (ICANN) első elnöke és vezérigazgatója, az Internet Hall of Fame tagja a következőket írta: “Az intelligens ügynökök lehetőségei az emberi intelligencia kiegészítésére még mindig gyakorlatilag korlátlanok. A fő probléma az, hogy minél kényelmesebb egy ügynök, annál többet kell tudnia rólunk – preferenciák, időzítés, képességek stb. – ami olyan kompromisszumot hoz létre, hogy a több segítség több behatolást igényel. Ez nem egy fekete-fehér kérdés – a szürke árnyalatai és a kapcsolódó megoldások a végtelenségig vitathatók. Az eddigi eredmények szerint a kényelem felülírja a magánélet védelmét. Gyanítom, hogy ez így is marad.”
danah boyd, a Microsoft vezető kutatója és az Adat & Társadalomkutató Intézet alapítója és elnöke szerint: “Az AI olyan eszköz, amelyet az emberek mindenféle célra használnak majd, beleértve a hatalomra való törekvést is. Lesznek olyan hatalommal való visszaélések, amelyekben a mesterséges intelligencia is szerepet játszik, ahogyan a tudomány és a humanitárius erőfeszítések terén is lesznek olyan előrelépések, amelyekben a mesterséges intelligencia is szerepet játszik. Sajnos vannak bizonyos trendvonalak, amelyek valószínűleg masszív instabilitást okoznak. Vegyük például az éghajlatváltozást és az éghajlati migrációt. Ez tovább fogja destabilizálni Európát és az Egyesült Államokat, és arra számítok, hogy pánikszerűen azt fogjuk látni, hogy a mesterséges intelligenciát más geopolitikai válságok fényében káros módon használják majd.”
Amy Webb, a Future Today Institute alapítója és a New York-i Egyetem stratégiai jövőkutatás professzora így nyilatkozott: “Az Egyesült Államokban és a világ sok más országában jelenleg működő szociális biztonsági háló struktúráit nem a mesterséges intelligenciára való átállásunkhoz tervezték. A mesterséges intelligencián keresztüli átmenet a következő 50 évben vagy annál is tovább fog tartani. Ahogy egyre inkább a számítástechnika harmadik korszakába lépünk, és ahogy minden egyes iparágban egyre mélyebbre hatolnak az AI-rendszerek, új, hibrid képzettségű tudásmunkásokra lesz szükségünk, akik olyan munkakörökben tudnak majd tevékenykedni, amelyekre korábban soha nem volt szükség. Olyan gazdákra lesz szükségünk, akik tudnak majd nagy adathalmazokkal dolgozni. Robotgyógyászként képzett onkológusokra. Villamosmérnökként képzett biológusokra. Nem csak egyszer, a tanterv néhány változtatásával kell majd felkészítenünk a munkaerőnket. Ahogy a mesterséges intelligencia érlelődik, olyan munkaerőre lesz szükségünk, amely néhány évente képes alkalmazkodni az új folyamatokhoz, rendszerekhez és eszközökhöz. Ezekre a szakterületekre gyorsabban lesz szükség, mint ahogy azt a munkaügyi osztályaink, iskoláink és egyetemeink felismerik. Könnyű a jelen szemszögéből visszatekinteni a történelemre – és figyelmen kívül hagyni a széles körű technológiai munkanélküliség okozta társadalmi nyugtalanságot. Egy olyan nehéz igazsággal kell foglalkoznunk, amelyet kevesen hajlandóak hangosan kimondani: A mesterséges intelligencia előbb-utóbb nagyszámú ember tartósan munkanélkülivé fog válni. Ahogyan a korábbi generációk az ipari forradalom idején és azt követően átütő változásoknak voltak tanúi, a technológia gyors ütemű fejlődése valószínűleg azt fogja jelenteni, hogy a Baby Boomerek és az X generáció legidősebb tagjai – különösen azok, akiknek a munkáját robotok is átvehetik – nem lesznek képesek másfajta munkára átképezni magukat jelentős idő- és erőfeszítésbefektetés nélkül.”
Barry Chudakov, a Sertain Research alapítója és vezetője így nyilatkozott: “2030-ra az ember-gép/AI együttműködés szükséges eszközzé válik több, egyidejűleg bekövetkező gyorsulás – a széles körű technológiai fejlődés, a globalizáció, az éghajlatváltozás és az ezzel járó globális migráció – hatásainak kezeléséhez és ellensúlyozásához. A múltban az emberi társadalmak zsigerből és intuícióval kezelték a változásokat, de ahogy Eric Teller, a Google X vezérigazgatója mondta: “Társadalmi struktúráink nem képesek lépést tartani a változások ütemével”. Ahhoz, hogy lépést tudjunk tartani ezzel a változással, és hogy 2030-ra kezelni tudjuk a “gonosz problémák” egyre növekvő listáját, az AI – vagy Joi Ito kifejezésével élve a kiterjesztett intelligencia – az emberi viselkedés és interakció gyakorlatilag minden területét értékelni és felértékelni fogja. A mesterséges intelligencia és a fejlődő technológiák megváltoztatják a válaszadási keretünket és időkereteinket (ami viszont megváltoztatja az időérzékünket). Ahol korábban a társadalmi interakciók helyenként történtek – munkahely, iskola, templom, családi környezet -, ott a társadalmi interakciók egyre inkább folyamatos, egyidejű időben fognak történni. Ha szerencsénk van, követni fogjuk az Élet Jövője Intézet által felvázolt 23 asilomari mesterséges intelligencia alapelvet, és “nem irányítatlan intelligencia, hanem hasznos intelligencia” felé fogunk haladni. A kölcsönösen biztosított megsemmisítésből fakadó nukleáris elrettentéshez hasonlóan az AI és a kapcsolódó technológiai rendszerek az erkölcsi reneszánsz erejét jelentik. Ezt az erkölcsi reneszánszt el kell fogadnunk, különben olyan erkölcsi problémákkal kell szembenéznünk, amelyek az emberiség pusztulásához vezethetnek. … A legnagyobb reményem az ember és a gép, illetve az AI együttműködésére egy erkölcsi és etikai reneszánsz – elfogadjuk a moonshot mentalitást, és összefogjuk a fegyvereket, hogy felkészüljünk a ránk váró gyorsulásra. A legnagyobb félelmem az, hogy átvesszük a feltörekvő technológiák logikáját – azonnali reagálás, képernyők mögötti elszigeteltség, önértékelés végtelen összehasonlítása, hamis önbemutatás – anélkül, hogy gondolkodnánk vagy okosan reagálnánk.”
John C. Havens, az IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems és a Council on Extended Intelligence ügyvezető igazgatója a következőket írta: “Most, 2018-ban az emberek többsége világszerte nem fér hozzá az adataihoz, így az “ember és az AI augmentációjáról” szóló viták figyelmen kívül hagyják azt a kritikus összefüggést, hogy valójában ki ellenőrzi az emberek információit és identitását. Hamarosan rendkívül nehéz lesz azonosítani olyan autonóm vagy intelligens rendszereket, amelyek algoritmusai nem lépnek kapcsolatba az emberi adatokkal valamilyen formában.”
A tét nem kevesebb, mint hogy milyen társadalomban akarunk élni, és hogyan éljük meg emberségünket.Batya Friedman
Batya Friedman, a Washingtoni Egyetem Információs Iskolájának ember-számítógép interakcióval foglalkozó professzora írta: “Tudományos és technológiai képességeink messze meghaladták és a jövőben is meghaladják erkölcsi képességeinket – vagyis azt a képességünket, hogy bölcsen és emberségesen használjuk az általunk kifejlesztett tudást és eszközöket. … Az automatizált hadviselés – amikor az autonóm fegyverek emberi beavatkozás nélkül ölnek embereket – az ellenség életének kioltásáért való felelősségvállalás hiányához vezethet, vagy akár annak tudomásulvételéhez, hogy az ellenség életét kioltották. A tét nem kevesebb, mint hogy milyen társadalomban akarunk élni, és hogyan éljük meg emberségünket.”
Greg Shannon, a Carnegie Mellon Egyetem CERT részlegének vezető tudósa szerint: “A jobb/rosszabb 4:1 arányban fog megjelenni, a hosszú távú arány 2:1 lesz. Az AI jól fog teljesíteni az ismétlődő munkáknál, ahol a “közel” elég jó lesz, és az emberek nem szeretik a munkát. … Az élet határozottan jobb lesz, mivel az AI meghosszabbítja az élettartamot, kezdve az egészségügyi alkalmazásoktól, amelyek intelligens módon “rávezetnek” minket az egészségre, a közelgő szív- és agyvérzésre vonatkozó figyelmeztetéseken át az automatizált egészségügyi ellátásig az alulellátottak (távoli) és a hosszabb ápolásra szorulók (idősgondozás) számára. Ami a szabadságot illeti, egyértelműek a kockázatok. A mesterséges intelligencia befolyásolja a cselekvőképességet azáltal, hogy olyan entitásokat hoz létre, amelyek jelentős intellektuális képességekkel rendelkeznek az egyének megfigyelésére, érvényesítésére és akár megbüntetésére. Azok, akik tudják, hogyan kell használni, hatalmas potenciális hatalommal fognak rendelkezni azokkal szemben, akik nem tudják/nem tudják használni. A jövőbeli boldogság valóban nem egyértelmű. Néhányan átadják majd az ügynöki képességüket az AI-nak a játékokban, a munkában és a közösségben, hasonlóan ahhoz, ahogyan az opioidválság ma ellopja az ügynöki képességet. Másrészt viszont sokan megszabadulnak majd a hétköznapi, nem lebilincselő feladatoktól/munkától. Ha a közösségi boldogság elemei az AI célfüggvényeinek részét képezik, akkor az AI a boldogság robbanásszerű növekedését katalizálhatja.”
Kostas Alexandridis, a “Exploring Complex Dynamics in Multi-agent-based Intelligent Systems” című könyv szerzője azt jósolta: “Sok mindennapi döntésünk automatizált lesz, a végfelhasználó minimális beavatkozásával. Az autonómia és/vagy függetlenség feláldozódik, és helyébe a kényelem lép. A polgárok újabb és újabb generációi egyre inkább a hálózatba kapcsolt mesterséges intelligencia struktúráktól és folyamatoktól fognak függeni. Vannak kihívások, amelyeket a kritikus gondolkodás és a heterogenitás tekintetében kell kezelni. A hálózatos egymásrautaltság nagy valószínűséggel növelni fogja a kibertámadásokkal szembeni sebezhetőségünket. Valószínűsíthető továbbá, hogy a digitális “rendelkezők” és a “nem rendelkezők”, valamint a technológiailag függő digitális infrastruktúrák között élesebb lesz a megosztottság. Végül pedig felmerül a digitális hálózati infrastruktúra tulajdonlásának és ellenőrzésének új “parancsnoki magasságai” kérdése.”
Oscar Gandy, a Pennsylvaniai Egyetem kommunikáció professzor emeritusa így reagált: “Már most is egy nem megengedett feltételezéssel szembesülünk, amikor arra kérnek bennünket, hogy képzeljük el az ember-gép “együttműködést”. Az interakció egy kicsit más, de még mindig beszennyezi az identitás egy formájának – talán még a személyiségnek – a megadása a gépeknek, amelyeket arra fogunk használni, hogy mindenféle lehetőség és kihívás között eligazodjunk. A problémák, amelyekkel a jövőben szembesülni fogunk, meglehetősen hasonlóak azokhoz, amelyekkel jelenleg szembesülünk, amikor “másokra” (beleértve a technológiai rendszereket, eszközöket és hálózatokat) támaszkodunk, hogy megszerezzük az általunk értékes dolgokat, és elkerüljük azokat a más dolgokat (amelyekről talán, vagy talán nem is tudunk).”
James Scofield O’Rourke, a Notre Dame-i Egyetem menedzsment professzora szerint: “A technológia a feljegyzett történelem során nagyrészt semleges fogalom volt. Értékének kérdése mindig is az alkalmazásától függött. Mire fogják használni a mesterséges intelligenciát és más technológiai vívmányokat? A puskaportól kezdve a belsőégésű motorokon át az atommaghasadásig mindent alkalmaztak hasznos és pusztító módon egyaránt. Feltételezve, hogy képesek vagyunk megfékezni vagy irányítani a mesterséges intelligenciát (és nem fordítva), a válasz arra, hogy jobb lesz-e nekünk, kizárólag rajtunk (vagy az utódainkon) múlik. “A hiba, kedves Brutus, nem a csillagainkban van, hanem bennünk, hogy alárendeltek vagyunk.”
Simon Biggs, az Edinburgh-i Egyetem interdiszciplináris művészetek professzora szerint: “Az AI az emberi képességek bővítésére fog működni. A probléma nem az AI-val, hanem az emberekkel van. Fajként agresszívek, versengőek és lusták vagyunk. Ugyanakkor empatikusak, közösségi gondolkodásúak és (néha) önfeláldozóak is vagyunk. Sok más tulajdonságunk is van. Ezek mind felerősödnek. A történelmi előzmények alapján feltételezhetjük, hogy a legrosszabb tulajdonságainkat fogják felerősíteni. Várakozásaim szerint 2030-ban a mesterséges intelligencia már rutinszerűen fog háborúkat vívni és embereket ölni, sokkal hatékonyabban, mint ahogyan mi jelenleg képesek vagyunk ölni. Társadalomként ez kevésbé fog minket érinteni, mint jelenleg, mivel nem mi magunk fogunk harcolni és ölni. Az empátiától és a hozzá kapcsolódó etikai keretektől függő viselkedésünk módosítására való képességünk csökkenni fog a cselekvőképességünk és az ölés aktusa közötti szétválasztás miatt. Nem várhatjuk el a mesterséges intelligencia-rendszerektől, hogy helyettünk etikusak legyenek – nem is lesznek azok, mivel úgy tervezik majd őket, hogy hatékonyan öljenek, nem pedig átgondoltan. A másik elsődleges aggodalmam a megfigyeléssel és az ellenőrzéssel kapcsolatos. A kínai Social Credit System (SCS) megjelenése jelzi, hogy mi várható. Egy SCS-en belül úgy fogunk létezni, hogy a mesterséges intelligencia hibrid példányokat hoz létre rólunk, amelyek vagy hasonlítanak, vagy nem hasonlítanak arra, akik vagyunk. Egyéni jogainkat és lehetőségeinket azonban az SCS fogja meghatározni. Ez az orwelli rémálom megvalósulása.”
Mark Surman, a Mozilla Alapítvány ügyvezető igazgatója így reagált: “Az AI továbbra is néhány nagy monopólium, az USA és Kína kezében fogja koncentrálni a hatalmat és a gazdagságot. A legtöbb ember – és a világ egyes részei – rosszabbul járnak majd.”
William Uricchio, médiatudós és az MIT összehasonlító médiatudományok professzora a következőket nyilatkozta: “A mesterséges intelligencia és a hozzá kapcsolódó alkalmazások három problémával szembesülnek: a Moore-törvény sebességével történő fejlődés, a technológiai és gazdasági elit kezében történő fejlődés, valamint a tájékozott és elkötelezett nyilvánosság nélkül történő fejlődés. A nyilvánosság a fogyasztók kollektívájává válik, akik a következő technológiára várnak. Kinek a “fejlődés” fogalma fog érvényesülni? Számos bizonyítékunk van arra, hogy a mesterséges intelligenciát a profit növelésére használják, tekintet nélkül a régóta vallott értékekre gyakorolt hatásokra; a kormányzati ellenőrzés fokozására és még az állampolgárok “társadalmi hitelének” növelésére is, anélkül, hogy maguk az állampolgárok közreműködnének. A korábbi technológiákhoz hasonlóan a mesterséges intelligencia is agnosztikus. Alkalmazása a társadalom kezében van. A mesterséges intelligenciához értő közvélemény hiányában azonban a mesterséges intelligencia legjobb alkalmazási módjáról szóló döntés a különleges érdekek kezébe kerül. Vajon ez méltányos alkalmazást, a társadalmi igazságtalanságok enyhítését és a mesterséges intelligencia közszolgálatban való alkalmazását jelenti majd? Mivel a válasz erre a kérdésre inkább társadalmi, mint technológiai jellegű, pesszimista vagyok. A megoldás? Ki kell alakítanunk egy, a mesterséges intelligenciához értő közönséget, ami azt jelenti, hogy az oktatási ágazatban és a közvéleményt megcélzó médiában kiemelt figyelmet kell fordítanunk rá. Biztosítanunk kell a sokszínűséget az AI-technológiák fejlesztésében. És amíg a közvélemény, a választott képviselői és a jogi és szabályozási rendszereik nem tudnak lépést tartani ezekkel a gyorsan változó fejleményekkel, addig óvatosan kell eljárnunk és felügyelnünk a mesterséges intelligencia fejlődését.”
A jelentés további része három részre tagolódik, amelyek több száz további válaszadó reményteli és kritikus észrevételeiből merítenek: 1) aggodalmak az ember és az AI fejlődésével kapcsolatban, 2) megoldási javaslatok az AI hatásának kezelésére, valamint 3) várakozások arról, hogy milyen lesz az élet 2030-ban, beleértve a válaszadók pozitív kilátásait az életminőségre és a munka, az egészségügy és az oktatás jövőjére vonatkozóan. Néhány választ a stílus kedvéért enyhén szerkesztettünk.
