En värld av makalösa manicker

Mattias Svensson om människans roll när vi inte längre är smartast

Foto: THINKSTOCK
Det behövs en beredskap för hur artificiell intelligens ska kunna användas utan att äventyra livet på jorden. Max Tegmark ger Mattias Svensson hopp.
BOKRECENSIONER

Många högtidstal har tillägnats det orädda intellektet, det förutsättningslösa sökandet och upptäckandets alla erövringar. Hur många skulle instämma den dag detta intellekt inte längre är en människa?

Max Tegmarks Liv 3.0 är en medryckande argumentation för varför vi bör välkomna en sådan utveckling.

Liv 1.0 har på vår planet utvecklats långsamt genom naturligt urval. Liv 2.0, människan, kan anpassa sin mjukvara och genom minne, lärande och problemlösning förändra sitt beteende, en enorm fördel för livets spridning.

Liv 3.0 är en existens som även kan förändra sin fysiska form, sin hårdvara. Det är tänkbart att en framtida maskin kan ta sig sådana uttryck, inklusive en kapacitet till medvetande, liksom att människor övergår i sådan existens. Möjligen redan inom några decennier.

Tanken är svindlande, och väcker existentiella frågor.


Utvecklandet av superintelligens öppnar för att liv ska kunna erövra och blomstra i universum, och till och med bemästra sådana svårigheter som solens utslocknande om cirka en miljard år, förklarar Tegmark. I det perspektivet framstår viljan att stoppa den som ett svek.

Samma perspektiv anläggs på frågan om det är önskvärt att den artificiella intelligensen är medveten. Hjälp! svarar maggropen. Medvetenheten – betraktandet, övervägandet och känslan – ger mening åt allt som händer i universum, svarar Tegmark, och omformulerar George Berkeleys klassiska fråga om träd som faller i skogen gör ljud om ingen hör: Ska avlägsna galaxer gå under i ett fantastiskt fyrverkeri utan att ett medvetande finns och betraktar det? Återigen framstår nekandet som ett svek.

Men vad ska hända med oss människor? Har vi ens något existensberättigande som art om vi inte är de ledande intellekten på vår planet?

Tegmark svarar jakande. Det mänskliga är också det sinnliga. Inga andra djur har lika omfattande nervbanor till sina fortplantningsorgan, mycket talar för att den mänskliga orgasmen är en unik upplevelse.

Och kommer maskinernas aldrig så medvetna intellekt någonsin att kunna relatera till de existentiella frågor och känslor som följer kring födelse och död, eller från doften av våt jord en melankolisk höstdag? Varandet är trots allt sällan någon tävling i absolut kapacitet. Precis som när maskiner befriat oss från fysiska ansträngningar, så kan befrielsen från intellektuella problem berika vår existens. Men det kommer att kräva ödmjukhet och fantasi.


Vår främsta och högst befogade rädsla är förmodligen hur överlägsna intellekt kan komma att behandla oss människor. Detta är Tegmarks stora bekymmer. När vi bygger vattenkraftverk bryr vi oss inte om ifall det dränker en myrstack. Problemet är inte att de självgående maskinerna skulle bli onda, utan att de skulle ha överlägsen kapacitet som blir svår att värja sig mot. Även riskerna med virus och buggar blir betydande, och en kapprustning med intelligenta vapen riskerar hela vår existens.

I ljuset av den enorma kraft som kan släppas lös – och bör släppas lös inte bara för att ge livet en chans att hävda sig i universum, utan för att kunna bota sjukdomar, ta fram nya energikällor och lyfta hela mänskligheten ur fattigdom och hopplöshet – blir filosofi en akut livsnödvändighet. Etiskt och politiskt behövs en beredskap för hur denna kraft ska kunna användas för välvilliga syften, men inte äventyra mänskligheten och livet på jorden.

Foto: ANDERS LINDEN
Max Tegmark, professor i ­fysik vid MIT, Massachusetts institute of technology.

Här hamnar Tegmark på villovägar. Hans skisser på olika sätt att politiskt hantera AI lider av utopiers ständiga svaghet: De är statiska, beskriver önskvärda sluttillstånd och människors tänkta psykologi då (lyckliga), och är inte sällan fördomsfritt auktoritära.


Tegmarks konferensreferat från diskussionerna om välvillig AI får mig att tänka på Arthur Koestlers roman Call girls från 1972, om intellektuella på en konferens för att lösa den tidens ödesproblem: överbefolkningen. Då tänkt som en satir över hur liberal humanism och andra hämningar hindrat konsensus om förment framsynta åtgärder som att tvångssterilisera indierna via dricksvattnet. I efterhand en påminnelse om att det inte är särskilt önskvärt att samtidens smartaste hjärnor enas om politiska lösningar. Jag räds i slutänden inte robotarna och deras överlägsna intellekt lika mycket som killarna i rummet och deras konsensus.

I ett dokument heter det exempelvis: ”Det ekonomiska välstånd som skapas av AI ska fördelas brett, för att gynna hela mänskligheten.” Fördelas, av vem? Ska någon eller några få människor verkligen anförtros makten att bestämma över vilka som ska få vad, över hela jorden? Där sådana beslut samlats på central politisk nivå, vare sig vi pratar planekonomier eller oljerika stater, har det sällan slutat lyckligt.

För att verkligen ta tillvara en betydande innovativ kraft borde frågan snarare vara vilka institutioner som är lämpade att hantera dynamisk förändring med många okända faktorer.

Konsensus om önskesamhällen leder fel. Inte minst som makten lätt hamnar hos en stark stat som begränsar manöverutrymmet. Det är trots allt främst stater som kommer att vilja utnyttja AI för militära ändamål, och storföretag som har intresse av strikta regler för tekniken för att hålla konkurrenter borta. Utmaningen är snarare hur vi kan begränsa sådana ambitioner och andra stora misstag.


Min rekommendation: Dela inte ut välstånd skapat av en centralt kontrollerad AI – låt tekniken spridas, med få och tydliga restriktioner snarare än fluffiga önskemål. Även artificiell intelligens kommer att vara felbar och experimenterande.

Ska den fungera kommer den att behöva vara specialiserad, inte ens för överlägsna intellekt kan ett samhälle reduceras till optimerandet av en enda formel. Bättre att AI som annan teknik hamnar i många olika händer och via fri konkurrens och frivilligt samarbete utvecklas mot allt bättre problemlösning.

Det är långtifrån perfekt och alla kommer inte att vara lyckliga för jämnan, men det är som jag ser det den bästa chansen för livet och intellektet. Och trots sina brister är Max Tegmarks Livet 3.0 en bok som gjort mig mer hoppfull om sådana värden än på mycket länge.

ARTIKELN HANDLAR OM