Et køretøjs- og persongenkendelsessystem til brug for retshåndhævende myndigheder blev demonstreret på sidste års GPU Technology Conference i Washington, D.C., som fremhæver nye anvendelser af kunstig intelligens og dyb læring. (Saul Loeb/AFP/Getty Images)

Digitalt liv øger menneskets evner og forstyrrer æoner gamle menneskelige aktiviteter. Kodedrevne systemer har spredt sig til mere end halvdelen af verdens indbyggere i form af omgivende information og konnektivitet, hvilket giver hidtil uanede muligheder og hidtil usete trusler. I takt med at den nye algoritmestyrede kunstige intelligens (AI) fortsætter med at sprede sig, vil mennesker så få det bedre end i dag?

Omkring 979 teknologipionerer, innovatorer, udviklere, erhvervs- og politiske ledere, forskere og aktivister svarede på dette spørgsmål i en rundspørge blandt eksperter, der blev gennemført i sommeren 2018.

Eksperterne forudsagde, at netværksbaseret kunstig intelligens vil forstærke den menneskelige effektivitet, men også true menneskets autonomi, handlekraft og evner. De talte om de vidtrækkende muligheder; at computere måske vil kunne matche eller endog overgå den menneskelige intelligens og kapacitet i opgaver som kompleks beslutningstagning, ræsonnement og læring, sofistikeret analyse og mønstergenkendelse, visuel skarphed, talegenkendelse og sprogoversættelse. De sagde, at “intelligente” systemer i lokalsamfund, i køretøjer, i bygninger og forsyningsselskaber, på gårde og i forretningsprocesser vil spare tid, penge og liv og give den enkelte mulighed for at nyde en mere individuelt tilpasset fremtid.

Mange fokuserede deres optimistiske bemærkninger på sundhedsplejen og de mange mulige anvendelser af kunstig intelligens til diagnosticering og behandling af patienter eller til at hjælpe ældre borgere til at leve et mere fyldigt og sundere liv. De var også begejstrede for AI’s rolle med hensyn til at bidrage til brede folkesundhedsprogrammer, der er bygget op omkring massive mængder af data, der kan blive indsamlet i de kommende år om alt fra personlige genomer til ernæring. Desuden forudsagde en række af disse eksperter, at AI vil bidrage til længe ventede ændringer i de formelle og uformelle uddannelsessystemer.

Derimod udtrykte de fleste eksperter, uanset om de er optimistiske eller ej, bekymring over disse nye værktøjers langsigtede indvirkning på de væsentlige elementer i det at være menneske. Alle respondenter i denne ikke-videnskabelige rundspørge blev bedt om at uddybe, hvorfor de mente, at AI ville gøre mennesker bedre stillet eller ej. Mange delte deres dybe bekymringer, og mange foreslog også veje til løsninger. De vigtigste temaer, de lød om trusler og løsninger, er skitseret i den medfølgende tabel.

AI og menneskets fremtid: Eksperter giver udtryk for bekymringer og foreslår løsninger

KONTROLER Menneskets handlekraft:
Den enkelte oplever et tab af kontrol over sit liv
Beslutningstagningen om vigtige aspekter af det digitale liv er automatisk afstået til kodedrevne, “black box”-værktøjer. Folk mangler input og lærer ikke sammenhængen om, hvordan værktøjerne fungerer. De ofrer uafhængighed, privatliv og magt over valgmulighederne; de har ingen kontrol over disse processer. Denne effekt vil blive uddybet i takt med, at automatiserede systemer bliver mere udbredte og komplekse.
Datamisbrug:
Datanvendelse og overvågning i komplekse systemer er designet med henblik på profit eller magtudøvelse
De fleste AI-værktøjer er og vil være i hænderne på virksomheder, der stræber efter profit, eller regeringer, der stræber efter magt. Værdier og etik er ofte ikke bagt ind i de digitale systemer, der træffer folks beslutninger for dem. Disse systemer er globalt netværksforbundne og er ikke nemme at regulere eller tøjle.
Tab af arbejdspladser:
AI’s overtagelse af arbejdspladser vil udvide de økonomiske skel og føre til social omvæltning
Effektivitetsgevinsterne og andre økonomiske fordele ved kodebaseret maskinintelligens vil fortsat forstyrre alle aspekter af menneskeligt arbejde. Mens nogle forventer, at der vil opstå nye job, frygter andre massive tab af arbejdspladser, voksende økonomiske kløfter og sociale omvæltninger, herunder populistiske opstande.
Afhængighedslåsning:
Fald i individets kognitive, sociale og overlevelsesevner
Mange ser AI som en forøgelse af menneskets evner, men nogle forudser det modsatte – at menneskers voksende afhængighed af maskindrevne netværk vil udhule deres evner til at tænke selv, handle uafhængigt af automatiserede systemer og interagere effektivt med andre.
Kaos:
Autonome våben, cyberkriminalitet og våbenbaseret information
Nogle forudser en yderligere erosion af de traditionelle sociopolitiske strukturer og muligheden for store tab af menneskeliv som følge af den accelererede vækst af autonome militære applikationer og brugen af våbenbaseret information, løgne og propaganda til at destabilisere menneskelige grupper på farlig vis. Nogle frygter også cyberkriminelles rækkevidde til økonomiske systemer.
SUGGESTED SOLUTIONS Globalt gode er nr. 1:
Forbedre menneskeligt samarbejde på tværs af grænser og
interessegrupper
Digitalt samarbejde for at tjene menneskehedens bedste interesser er den højeste prioritet. Der skal findes måder, hvorpå mennesker over hele verden kan nå frem til fælles forståelser og aftaler – for at forene kræfterne for at lette innovationen af bredt accepterede tilgange, der tager sigte på at løse onde problemer og bevare kontrollen over komplekse menneskeligt-digitale netværk.
Værdibaseret system:
Udvikle politikker, der sikrer, at AI vil være rettet mod ‘menneskelighed’ og det fælles bedste
Ansætte en ‘moonshot-mentalitet’ for at opbygge inkluderende, decentraliserede intelligente digitale netværk ‘gennemsyret af empati’, der hjælper mennesker aggressivt med at sikre, at teknologien lever op til sociale og etiske ansvarsområder. Et nyt niveau af regulerings- og certificeringsproces vil være nødvendigt.
Prioriter mennesker:
Optimer økonomiske og politiske systemer for bedre at hjælpe mennesker med at ‘kappes med robotterne’
Reorganiser økonomiske og politiske systemer med henblik på at udvide menneskers kapacitet og evner for at øge samarbejdet mellem mennesker og AI og standse tendenser, der vil kompromittere menneskelig relevans over for programmeret intelligens.

PEW RESEARCH CENTER AND ELON UNIVERSITY’S IMAGINING THE INTERNET CENTER

Specifikt blev deltagerne bedt om at overveje følgende:

“Tænk venligst fremad til år 2030. Analytikere forventer, at mennesker vil blive endnu mere afhængige af netværksbaseret kunstig intelligens (AI) i komplekse digitale systemer. Nogle siger, at vi vil fortsætte på den historiske bue med at øge vores liv med overvejende positive resultater, efterhånden som vi i vid udstrækning implementerer disse netværksbaserede værktøjer. Nogle siger, at vores stigende afhængighed af denne kunstige intelligens og relaterede systemer sandsynligvis vil føre til udbredte vanskeligheder.

Vores spørgsmål: Tror du, at det er mest sandsynligt, at fremadskridende AI og relaterede teknologisystemer inden 2030 vil forbedre menneskets evner og give det mere magt? Det vil sige, at de fleste mennesker for det meste vil være bedre stillet, end de er i dag? Eller er det mest sandsynligt, at avanceret kunstig intelligens og relaterede teknologisystemer vil mindske menneskers autonomi og handlekraft i et sådant omfang, at de fleste mennesker ikke vil være bedre stillet end i dag?”

Overordnet set og på trods af de ulemper, de frygter, sagde 63 % af respondenterne i denne rundspørge, at de håber, at de fleste mennesker for det meste vil være bedre stillet i 2030, og 37 % sagde, at folk ikke vil være bedre stillet.

En række af de tænkende ledere, der deltog i denne rundspørge, sagde, at menneskers voksende afhængighed af teknologiske systemer kun vil gå godt, hvis der lægges stor vægt på, hvordan disse værktøjer, platforme og netværk konstrueres, distribueres og opdateres. Nogle af de stærke, overordnede svar omfattede svarene fra:

Sonia Katyal, meddirektør for Berkeley Center for Law and Technology og medlem af det første rådgivende udvalg for digital økonomi i USA’s handelsministerium, forudsagde: “I 2030 vil det største sæt spørgsmål involvere, hvordan opfattelsen af kunstig intelligens og deres anvendelse vil påvirke borgerrettighedernes bane i fremtiden. Spørgsmål om privatlivets fred, tale, forsamlingsret og den teknologiske konstruktion af personlighed vil alle genopstå i denne nye AI-kontekst og sætte spørgsmålstegn ved vores dybeste overbevisninger om lighed og muligheder for alle. Hvem der vil få fordele og ulemper i denne nye verden afhænger af, hvor bredt vi analyserer disse spørgsmål i dag og i fremtiden.”

Vi skal arbejde aggressivt for at sikre, at teknologien matcher vores værdier.Erik Brynjolfsson

Erik Brynjolfsson, direktør for MIT Initiative on the Digital Economy og forfatter til “Machine, Platform, Crowd: Harnessing Our Digital Future”, sagde: “AI og beslægtede teknologier har allerede opnået overmenneskelige præstationer på mange områder, og der er næppe tvivl om, at deres evner vil blive forbedret, sandsynligvis meget betydeligt, inden 2030. … Jeg tror, at det er mere sandsynligt end usandsynligt, at vi vil bruge denne kraft til at gøre verden til et bedre sted. Vi kan f.eks. praktisk talt fjerne den globale fattigdom, reducere sygdomme massivt og give bedre uddannelse til næsten alle på planeten. Når det er sagt, kan AI og ML også bruges til i stigende grad at koncentrere rigdom og magt, så mange mennesker bliver efterladt, og til at skabe endnu mere forfærdelige våben. Ingen af de to udfald er uundgåelige, så det rigtige spørgsmål er ikke “Hvad vil der ske?”, men “Hvad vil vi vælge at gøre? Vi er nødt til at arbejde aggressivt for at sikre, at teknologien passer til vores værdier. Dette kan og skal gøres på alle niveauer, fra regeringen, til erhvervslivet, til den akademiske verden og til individuelle valg.”

Bryan Johnson, stifter og administrerende direktør for Kernel, en førende udvikler af avancerede neurale grænseflader, og OS Fund, et venturekapitalfirma, sagde: “Jeg er overbevist om, at svaret afhænger af, om vi kan ændre vores økonomiske systemer i retning af at prioritere radikal menneskelig forbedring og standse tendensen mod menneskelig irrelevans i lyset af AI. Jeg mener ikke bare job; jeg mener ægte, eksistentiel irrelevans, som er slutresultatet af ikke at prioritere menneskelig trivsel og kognition.”

Marina Gorbis, administrerende direktør for Institute for the Future, sagde: “Uden betydelige ændringer i vores politiske økonomi og datastyringsregimer vil det sandsynligvis skabe større økonomisk ulighed, mere overvågning og mere programmerede og ikke-menneskecentrerede interaktioner. Hver gang vi programmerer vores omgivelser, ender vi med at programmere os selv og vores interaktioner. Mennesker skal blive mere standardiserede og fjerne tilfældighed og tvetydighed fra vores interaktioner. Og denne tvetydighed og kompleksitet er det, der er essensen af at være menneske.”

Judith Donath, forfatter til “The Social Machine, Designs for Living Online” og fakultetsstipendiat ved Harvard University’s Berkman Klein Center for Internet & Society, kommenterede: “I 2030 vil de fleste sociale situationer blive faciliteret af bots – intelligent udseende programmer, der interagerer med os på menneskelignende måder. I hjemmet vil forældrene bruge dygtige robotter til at hjælpe børnene med lektier og katalysere samtaler om aftensmaden. På arbejdet vil robotter lede møder. En robotfortæller vil blive anset for at være afgørende for det psykologiske velbefindende, og vi vil i stigende grad henvende os til sådanne ledsagere for at få råd om alt fra, hvad vi skal tage på, til hvem vi skal gifte os med. Vi mennesker lægger stor vægt på, hvordan andre ser os – og de andre, hvis godkendelse vi søger, vil i stigende grad være kunstige. Til den tid vil forskellen mellem mennesker og robotter være blevet meget udvisket. Via skærm og projektion vil robotternes stemme, udseende og adfærd ikke kunne skelnes fra mennesker, og selv fysiske robotter vil, selv om de tydeligvis ikke er mennesker, være så overbevisende oprigtige, at vores indtryk af dem som tænkende og følende væsener, der er på linje med eller overlegen os selv, vil være urokkeligt. For at øge tvetydigheden vil vores egen kommunikation blive stærkt forstærket: Programmer vil sammensætte mange af vores budskaber, og vores online/AR-udseende vil være computerfremstillet. (Rå, uhjulpet menneskelig tale og opførsel vil virke pinligt klodset, langsomt og usofistikeret). Med hjælp fra deres adgang til enorme mængder af data om hver enkelt af os vil robotter langt overgå mennesker i deres evne til at tiltrække og overtale os. De vil være i stand til at efterligne følelser på en dygtig måde og vil aldrig blive overvældet af følelser: Hvis de siger noget i vrede, vil det være, fordi denne adfærd er beregnet til at være den mest effektive måde at fremme de mål, de har “i tankerne”. Men hvad er disse mål? Kunstigt intelligente ledsagere vil give indtryk af, at sociale mål, der ligner vores egne, motiverer dem – at blive holdt i god anseelse, hvad enten det drejer sig om en elsket ven, en beundret chef osv. Men deres virkelige samarbejde vil være med de mennesker og institutioner, der kontrollerer dem. Ligesom deres forfædre i dag vil disse være sælgere af varer, der anvender dem til at stimulere forbruget, og politikere, der bestiller dem til at påvirke holdninger.”

Andrew McLaughlin, administrerende direktør for Center for Innovative Thinking ved Yale University, tidligere vicechef for USA’s teknologi for præsident Barack Obama og global leder af den offentlige politik for Google, skrev: “2030 er ikke langt ude i fremtiden. Min fornemmelse er, at innovationer som internettet og netværksbaseret kunstig intelligens har massive kortsigtede fordele sammen med langsigtede negative virkninger, som det kan tage årtier, før de bliver synlige. AI vil føre til en lang række effektivitetsoptimeringer, men vil også muliggøre skjult diskrimination og vilkårlig straf af enkeltpersoner på områder som forsikring, jobsøgning og præstationsvurdering.”

Michael M. Roberts, den første præsident og administrerende direktør for Internet Corporation for Assigned Names and Numbers (ICANN) og medlem af Internet Hall of Fame, skrev: “Mulighederne for intelligente agenter til at øge den menneskelige intelligens er stadig næsten ubegrænsede. Det største problem er, at jo mere praktisk en agent er, jo mere skal den vide om dig – præferencer, timing, kapacitet osv. – hvilket skaber en afvejning, hvor mere hjælp kræver mere indtrængen. Dette er ikke et sort-hvidt spørgsmål – gråtonerne og de dertil hørende løsninger vil blive diskuteret i det uendelige. Indtil nu har det vist sig, at bekvemmelighed er vigtigere end privatlivets fred. Jeg formoder, at det vil fortsætte.”

Danah Boyd, en ledende forsker for Microsoft og stifter og formand for Data & Society Research Institute, sagde: “AI er et værktøj, der vil blive brugt af mennesker til alle mulige formål, herunder i jagten på magt. Der vil være magtmisbrug, som involverer AI, ligesom der vil være fremskridt inden for videnskab og humanitær indsats, som også involverer AI. Desværre er der visse trendlinjer, som sandsynligvis vil skabe massiv ustabilitet. Tag f.eks. klimaændringer og klimamigration. Det vil destabilisere Europa og USA yderligere, og jeg forventer, at vi i panik vil se AI blive brugt på skadelige måder i lyset af andre geopolitiske kriser.”

Amy Webb, grundlægger af Future Today Institute og professor i strategisk fremtidsforskning ved New York University, kommenterede: “De sociale sikkerhedsnetstrukturer, der i øjeblikket er på plads i USA og i mange andre lande rundt om i verden, var ikke designet til vores overgang til AI. Overgangen gennem AI vil vare de næste 50 år eller mere. Efterhånden som vi bevæger os længere ind i denne tredje æra af edb, og efterhånden som hver enkelt branche bliver dybere forankret i AI-systemer, vil vi få brug for nye hybridkvalificerede vidensarbejdere, der kan operere i job, som aldrig har haft behov for at eksistere før. Vi vil få brug for landmænd, der ved, hvordan man arbejder med store datasæt. Onkologer, der er uddannet som robotokister. Biologer, der er uddannet som elektroingeniører. Vi vil ikke kun skulle forberede vores arbejdsstyrke én gang med nogle få ændringer i pensum. Efterhånden som AI modnes, vil vi få brug for en fleksibel arbejdsstyrke, der er i stand til at tilpasse sig nye processer, systemer og værktøjer med få års mellemrum. Behovet for disse områder vil opstå hurtigere, end vores arbejdsministerier, skoler og universiteter erkender. Det er let at se tilbage på historien gennem nutidens briller – og at overse den sociale uro, der er forårsaget af udbredt teknologisk arbejdsløshed. Vi er nødt til at tage fat på en vanskelig sandhed, som kun få er villige til at udtale højt: AI vil i sidste ende medføre, at et stort antal mennesker vil blive permanent arbejdsløse. Ligesom generationer før dem oplevede gennemgribende forandringer under og efter den industrielle revolution, vil det hurtige teknologiske tempo sandsynligvis betyde, at babyboomere og de ældste medlemmer af generation X – især dem, hvis job kan kopieres af robotter – ikke vil være i stand til at omskole sig til andre former for arbejde uden en betydelig investering af tid og kræfter.”

Barry Chudakov, grundlægger og leder af Sertain Research, kommenterede: “I 2030 vil samarbejdet mellem menneske-maskine/AI være et nødvendigt redskab til at styre og modvirke virkningerne af flere samtidige accelerationer: bred teknologisk udvikling, globalisering, klimaforandringer og tilhørende globale migrationer. Tidligere har menneskelige samfund håndteret forandringer gennem mavefornemmelse og intuition, men som Eric Teller, CEO for Google X, har sagt: “Vores samfundsstrukturer kan ikke holde trit med forandringstakten”. For at kunne holde trit med denne forandring og for at kunne håndtere en voksende liste af “onde problemer” inden 2030 vil AI – eller med Joi Itos udtryk, udvidet intelligens – værdsætte og revaluere stort set alle områder af menneskelig adfærd og interaktion. AI og fremadskridende teknologier vil ændre vores reaktionsramme og tidsrammer (hvilket igen vil ændre vores tidsfornemmelse). Hvor social interaktion tidligere foregik på steder – arbejde, skole, kirke, familiemiljøer – vil social interaktion i stigende grad foregå i kontinuerlig, samtidig tid. Hvis vi er heldige, vil vi følge de 23 Asilomar AI-principper, der er skitseret af Future of Life Institute, og vi vil arbejde hen imod “ikke udirigeret intelligens, men gavnlig intelligens”. I lighed med den nukleare afskrækkelse som følge af gensidigt sikret ødelæggelse udgør AI og beslægtede teknologisystemer en kraft for en moralsk renæssance. Vi må omfavne denne moralske renæssance, ellers vil vi stå over for moralske dilemmaer, der kan føre til menneskets undergang. … Mit største håb for samarbejdet mellem menneske-maskine/AI er en moralsk og etisk renæssance – vi indtager en moonshot-mentalitet og går sammen om at forberede os på de accelerationer, der kommer mod os. Min største frygt er, at vi overtager logikken i vores nye teknologier – øjeblikkelig reaktion, isolation bag skærme, endeløs sammenligning af selvværd, falsk selvpræsentation – uden at tænke eller reagere klogt.”

John C. Havens, administrerende direktør for IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems og Council on Extended Intelligence, skrev: “Nu, i 2018, kan et flertal af mennesker verden over ikke få adgang til deres data, så alle diskussioner om ‘human-AI augmentation’ ignorerer den kritiske kontekst om, hvem der rent faktisk kontrollerer folks oplysninger og identitet. Snart vil det være ekstremt vanskeligt at identificere nogen autonome eller intelligente systemer, hvis algoritmer ikke interagerer med menneskelige data i en eller anden form.”

Det, der står på spil, er intet mindre end den slags samfund, vi ønsker at leve i, og hvordan vi oplever vores menneskelighed.Batya Friedman

Batya Friedman, professor i menneske-computer-interaktion ved University of Washington’s Information School, skrev: “Vores videnskabelige og teknologiske kapacitet har og vil fortsat langt overgå vores moralske kapacitet – det vil sige vores evne til at bruge den viden og de værktøjer, vi udvikler, klogt og menneskeligt. … Automatiseret krigsførelse – når autonome våben dræber mennesker uden menneskelig indblanding – kan føre til manglende ansvar for at tage fjendens liv eller endog viden om, at en fjendes liv er blevet taget. På spil er intet mindre end den slags samfund, vi ønsker at leve i, og hvordan vi oplever vores menneskelighed.”

Greg Shannon, chefforsker for CERT-divisionen ved Carnegie Mellon University, sagde: “Bedre/værre vil fremstå 4:1 med et langsigtet forhold på 2:1. AI vil gøre sig godt i forbindelse med gentagende arbejde, hvor “tæt på” vil være godt nok, og hvor mennesker ikke bryder sig om arbejdet. … Livet vil helt sikkert blive bedre, når AI forlænger levetiden, lige fra sundhedsapps, der på intelligent vis “skubber” os til sundhed, til advarsler om forestående hjerte- eller slagtilfælde, til automatiseret sundhedspleje for de underforsynede (fjernbetjening) og dem, der har brug for længerevarende pleje (ældrepleje). Hvad angår friheden, er der klare risici. AI påvirker handleevnen ved at skabe enheder med betydelige intellektuelle evner til at overvåge, håndhæve og endda straffe enkeltpersoner. De, der ved, hvordan de skal bruge det, vil have en enorm potentiel magt over dem, der ikke gør det eller ikke kan det. Fremtidens lykke er virkelig uklar. Nogle vil afgive deres agency til AI i spil, arbejde og samfund, ligesom opioidkrisen stjæler agency i dag. På den anden side vil mange blive befriet fra banale, uengagerende opgaver/jobs. Hvis elementer af fællesskabets lykke er en del af AI’s målfunktioner, kan AI katalysere en eksplosion af lykke.”

Kostas Alexandridis, forfatter til “Exploring Complex Dynamics in Multi-agent-based Intelligent Systems”, forudså: “Mange af vores daglige beslutninger vil blive automatiseret med minimal indgriben fra slutbrugerens side. Autonomi og/eller uafhængighed vil blive ofret og erstattet af bekvemmelighed. Nyere generationer af borgere vil blive mere og mere afhængige af netværksbaserede AI-strukturer og -processer. Der er udfordringer, der skal løses med hensyn til kritisk tænkning og heterogenitet. Netværksbaseret indbyrdes afhængighed vil med stor sandsynlighed øge vores sårbarhed over for cyberangreb. Der er også en reel sandsynlighed for, at der vil eksistere skarpere opdelinger mellem digitale “haves” og “have-nots” samt mellem teknologisk afhængige digitale infrastrukturer. Endelig er der spørgsmålet om de nye “kommandohøjder” i den digitale netværksinfrastrukturs ejerskab og kontrol.”

Oscar Gandy, emeritus professor i kommunikation ved University of Pennsylvania, svarede: “Vi står allerede over for en uantagelig antagelse, når vi bliver bedt om at forestille os et menneske-maskine-“samarbejde”. Interaktion er en smule anderledes, men stadig plettet af, at vi tildeler en form for identitet – måske endda personlighed – til maskiner, som vi vil bruge til at banke os vej gennem alle mulige muligheder og udfordringer. De problemer, vi vil stå over for i fremtiden, ligner meget de problemer, vi står over for i dag, når vi er afhængige af ‘andre’ (herunder teknologiske systemer, apparater og netværk) for at erhverve ting, vi sætter pris på, og undgå disse andre ting (som vi måske, eller måske ikke er klar over).”

James Scofield O’Rourke, professor i ledelse ved University of Notre Dame, sagde: “Teknologi har gennem hele den skrevne historie været et stort set neutralt begreb. Spørgsmålet om dens værdi har altid været afhængig af dens anvendelse. Til hvilket formål vil AI og andre teknologiske fremskridt blive anvendt? Alt fra krudt til forbrændingsmotorer og atomfission er blevet anvendt på både nyttige og destruktive måder. Hvis vi antager, at vi kan inddæmme eller kontrollere AI (og ikke omvendt), afhænger svaret på, om vi vil få det bedre, helt og holdent af os selv (eller vores efterkommere). ‘Fejlen, kære Brutus, ligger ikke i vores stjerner, men i os selv, at vi er undersåtter’.”

Simon Biggs, professor i tværfaglig kunst ved University of Edinburgh, sagde: “AI vil fungere til at øge de menneskelige evner. Problemet er ikke med AI, men med mennesker. Som art er vi aggressive, konkurrencedygtige og dovne. Vi er også empatiske, fællesskabsorienterede og (nogle gange) selvopofrende. Vi har mange andre egenskaber. Disse vil alle blive forstærket. I betragtning af den historiske præcedens må man formode, at det vil være vores værste kvaliteter, der vil blive forstærket. Min forventning er, at AI i 2030 vil blive brugt rutinemæssigt til at føre krig og dræbe mennesker langt mere effektivt, end vi i øjeblikket kan dræbe. Som samfund vil vi blive mindre påvirket af dette, end vi er i dag, da vi ikke selv vil kæmpe og dræbe. Vores evne til at ændre vores adfærd, som er underlagt empati og en tilhørende etisk ramme, vil blive reduceret af adskillelsen mellem vores handlekraft og den handling, der består i at dræbe. Vi kan ikke forvente, at vores AI-systemer skal være etiske på vores vegne – det vil de ikke være, da de vil være designet til at dræbe effektivt og ikke med omtanke. Min anden primære bekymring har at gøre med overvågning og kontrol. Indførelsen af Kinas sociale kreditsystem (SCS) er en indikator for, hvad der sandsynligvis vil ske i fremtiden. Vi vil eksistere i et SCS som AI-konstruktioner af hybride instanser af os selv, der måske eller måske ikke ligner os selv. Men vores rettigheder og muligheder som individer vil blive bestemt af SCS. Dette er det Orwellske mareridt, der er blevet til virkelighed.”

Mark Surman, administrerende direktør for Mozilla Foundation, svarede: “AI vil fortsat koncentrere magt og rigdom i hænderne på nogle få store monopoler baseret i USA og Kina. De fleste mennesker – og dele af verden – vil få det værre.”

William Uricchio, medieforsker og professor i komparative mediestudier ved MIT, kommenterede: “AI og dens relaterede anvendelser står over for tre problemer: udvikling med Moore’s Laws hastighed, udvikling i hænderne på en teknologisk og økonomisk elite og udvikling uden gavn af en informeret eller engageret offentlighed. Offentligheden er reduceret til et kollektiv af forbrugere, der venter på den næste teknologi. Hvis opfattelse af “fremskridt” vil være fremherskende? Vi har rigeligt med beviser for, at kunstig intelligens anvendes til at skabe profit, uden hensyn til konsekvenserne for gamle værdier, til at øge regeringens kontrol og endda til at score borgernes “sociale kredit” uden input fra borgerne selv. Ligesom teknologierne før den er AI agnostisk. Anvendelsen af den ligger i samfundets hænder. Men i mangel af en AI-kyndig offentlighed vil beslutningen om, hvordan AI bedst anvendes, falde i hænderne på særinteresser. Vil dette betyde retfærdig anvendelse, afhjælpning af social uretfærdighed og AI i den offentlige tjeneste? Fordi svaret på dette spørgsmål er socialt snarere end teknologisk, er jeg pessimistisk. Hvad er løsningen? Vi er nødt til at udvikle en AI-kyndig offentlighed, hvilket betyder fokuseret opmærksomhed i uddannelsessektoren og i medierne med fokus på offentligheden. Vi er nødt til at sikre mangfoldighed i udviklingen af AI-teknologier. Og indtil offentligheden, dens folkevalgte repræsentanter og deres lovgivnings- og reguleringsordninger kan komme på omgangshøjde med denne hurtige udvikling, må vi udvise forsigtighed og føre tilsyn med AI’s udvikling.”

Resten af denne rapport er opdelt i tre afsnit, der bygger på hundredvis af yderligere respondenters håbefulde og kritiske bemærkninger: 1) bekymringer om udviklingen mellem menneske og AI, 2) forslag til løsninger for at imødegå AI’s indvirkning og 3) forventninger til, hvordan livet vil være i 2030, herunder respondenternes positive udsigter til livskvalitet og fremtiden for arbejde, sundhedspleje og uddannelse. Nogle svar er let redigeret af hensyn til stilen.

admin

Skriv et svar

Din e-mailadresse vil ikke blive publiceret.

lg