Tehisintellekt, automatiseerimine ja tulevik

Tänane postitus räägib tehisintellektist, täpsemalt selle olemusest, potentsiaalist ja senisest diskussioonist Eestis. Tegu on kiiresti areneva alaga, mis võib meie kõigi elusid väga oluliselt muuta, seda nii paari kui paarikümne aasta perspektiivis — loodetavasti paremuse poole. Postituse kaasautoriteks on Tartu AI mõtteklubi vedajad Allan Aksiim ja Kaspar Kruup.

Tehisintellekti põhivormid ning hädavajalikud definitsioonid

Kõik tehisintellektid (artificial intelligence – AI) pole võrdsed ega samased. Tihti aetakse diskussioonides aga AI erinevad vormid lootusetult segi. Täna eksisteerivatest süsteemidest nimetatakse tehisintellektiks selliseid, mis suudavad täita spetsiifiliseid ülesandeid, näiteks tuvastada pildilt nägusid või juhtida autot. Enamasti on need AI-d oma kitsas valdkonnas paremad kui inimene, kuid erinevalt inimestest ei suuda enamik neist täita rohkem kui üht ülesannet — lisaks autojuhtimisele ka korvpalli mängida ja õhtusööki valmistada. Nad pole oma loomuselt üldotstarbelised (general-purpose), vaid kitsad tehisintellektid (artificial narrow intelligence – ANI). Rääkides automatiseerimisest ja masinõppest käib jutt sageli just ANI-dest.

Mitmeid süsteeme, mida võiks nimetada tehisintellektideks, pole veel loodud. Nad eksisteerivad teooriates ning tulevikustsenaariumides. Sellisteks on üldintellekt (artificial general intelligence – AGI) ja superintellekt (artificial super intelligence – ASI). Üldintellekt oleks suuteline sooritama paljusid erinevaid ülesandeid inimesega samaväärselt või paremini. Ta oleks tõenäoliselt õppimisvõimeline ning teda võiks mingitel tingimustel nimetada eluvormiks. Just üldintellektist rääkides on relevantne rääkida näiteks Turingi testist (ja selle puudustest). AGI-t on kujutatud teostes nagu “I, Robot” või “A.I.” kus motiiviks on tehisliku organismi teadvuse mõtestamine. ANI puhul ei räägi keegi teadvusest, AGI puhul küll. Superintellekt suudaks sooritada igat ülesannet paremini kui kogu inimkond tervikuna. Paljukäiatud mõistet singularity kasutatakse just ASI hüpoteetilise sünnimomendi kirjeldamiseks. Teoreetiliselt oleks tegemist inimkonna viimase leiutisega¹, mille võimekus on meiega võrreldes ülikõrge. ² Eksistentsiaalsest ohust räägitakse eelkõige ASI kontekstis.³

Kitsas-, üld- ja superintellekt ei ole ainult AI erinevad vormid, vaid ka potentsiaalsed arenguastmed, järjestatud võimekuse järgi ANI < AGI < ASI. ⁴ Teadmisi, mida saadakse paljude kitsaste tehisintelligentside loomisest, saab kasutada üha üldisemate tehisintellektide loomiseks, mis üha rohkemaid inimese võimekusi ületaks. Edasine eksisteerib vaid teoorias. Õppimisvõimelise üldintellekti areng superintellektiks võib olla võimatu või väldata vaid mõned tunnid või minutid – sõltub, kellelt hinnangut küsida.

Robotite puhul tasub eristada intellekti robotkehast: keha on siinkohal tehisintellektile tööriist, mitte tema teadmiste ja oskuste allikas. AI ohtudest ja võimalustest rääkides peame pöörama põhitähelepanu intellektile ja tema võimalikule käitumisele, mitte tööriistale, mitte tema käsutuses olevale tööriistale. Hirmujutud tapjarobotitest eksitavad inimesi mõtlema popkultuuri motiivides (à la Terminaator), mistõttu küsimused intellektist endast vähem tähelepanu saavad. Näiteks ei ole mõtet drooni nimetada intelligentseks – intellekt kontrollib drooni nagu inimene kontrollib haamrit, muruniidukit või autot, lihtsalt ilma teadvuseta.

Kui suur on tehisintellekti mõju maailmale?

Ühiskond peaks tõsiselt võtma lisaks tehisintellekti potentsiaalselt tohututele kasudele ka selle arengust tekkivaid ohte. On oluline mõista, et kitsa, üld- ja superintellekti tekitatavad ohud (ja kasud) erinevad nii mõju määra kui ajaskaala poolest: kui AGI ja ASI ohud ei tundu veel käegakatsutavad, siis ANI avaldab maailmale suurt mõju juba lähema kümne aasta perspektiivis. ⁵ Automatiseerimine ning masinõpe muudavad isegi teadvuseta intellekti ühiskonna jaoks samaaegselt väga suureks riskiks ja võimaluseks. Tihti aetakse aruteludes aga ANI, AGI ja ASI küsimused segamini, mis takistab selget analüüsi.

Kõige hirmutavam, aga ilmselt ka ajaliselt kõige kaugem on oht, et me ei suuda tulevikus AGI või ASI käitumist kontrollida ega ennustada (nimetame seda kontrolliprobleemiks ⁶). Probleemi tõsidust rõhutavale Elu Tuleviku Instituudi (FLI – Future of Life Institute) avalikule kirjale on alla kirjutanud mõned maailma nimekamad AI-ga tegelevad teadlased.

Kuigi tehisintellekti aeglase arengu tõttu ei pruugi AGI ja ASI (ja seega kontrolliprobleem) lähimate kümnendite jooksul realiseeruda, on ka palju käegakatsutavamaid ohte: lähema paari aasta jooksul on praktiliseks kasutamiseks valmis kitsa tehisintellektiga varustatud relvastatud robotid, mis teevad iseseisvalt sihtmärgi valimise ja ründamise otsuseid ning on odavad ja lihtsad ehitada⁷. Probleem tekib sellest, et sõdimise lävend langeb, kuna ohverdada tuleb palju vähem inimesi ja rohkem ja odavamaid masinaid, mistõttu on ka lihtsam saavutada väga ebasoovitavaid või ebaeetilisi eesmärke: hoida riiki sõjalise kontrolli all, viia läbi etnilist puhastust või külvata terrorismiaktidega hirmu. Nimetame seda autonoomsete relvade probleemiks; ka sellele tähelepanu juhtimiseks avaldas FLI teise avaliku kirja sarnaselt muljetavaldava allakirjutanute nimekirjaga.

Autonoomsete relvadega sõdimine on murettekitav, sest see on kvalitatiivselt erinev tavalisest sõjapidamisest. Kuigi inimesed teevad lahingus pidevalt vigu, on sõjanduslikul otstarbel loodud robotite puhul probleem selles, et nende vead korduvad, kuna on sisse programmeeritud (veaks nimetame siin ka inimese tahtliku käsu ebasoovitavaid tagajärgi). Näiteks:

1. Suutmatus teatud oludes eristada võitlejat tsiviilelanikust.
2. Võimetus ära tunda ebaeetilised käsud ja neid eirata.
3. Enesealalhoiuinstinkti puudumine. Üksus, mis koosneb tehisintellekti kontrollitud robotitest või droonidest, võib säilitada võitlusvõime ja -tahte ka siis, kui suur osa sellest on vastase poolt hävitatud. ⁸

Tehisintellekti ohtude arutelu Eestis

Autonoomsete relvade probleem on vaid üks näide seda tüüpi tehnoloogia võimalikust mõjust. Ka poliitikute jaoks on tegemist uudsete küsimustega, mis tähendab, et me peame kiiresti õppima AI-st mõtlema ning olulist ebaolulisest eristama.

Postituse autorid on tegevad Tartust alanud tehisintellekti riske arutavas mõtteklubis, mis üritab teha just seda. Klubi avalik nägu on Tehisintellekt ja SINA. Esimesel avalikul üritusel Tartus osales ligi 75 inimest, seega huvi teema vastu on tuntav.

Kui võõrkeelses meedias on teemat juba pikemalt (kuid siiski vähe) kajastatud, siis Eesti meedias on tehisintellekti ohtu arutama hakatud üsna hiljuti: Postimehes refereeriti FLI teist avalikku kirja, misjärel kirjutas Ahto Lobjakas tehisintellekti ohtlikkuse vastu argumenteeriva kolumni. Lühidalt öeldes väidab Lobjakas, et tehisintellekt “ei ole filosoofiliselt võimalik”, sest otsustamise jaoks “tuleb maailma kuidagi sündida, see keeleõppimise vahendusel enda jaoks luua”.

Lobjakas teeb aga mitu eksimust. Näiteks heidab ta semantilis-filosoofilistel alustel automatiseeritud relvad intellekti vormina kõrvale – need ei ole tema definitsooni kohaselt tehisintellekt. Kuid nagu juba demonstreeritud, siis on ka kitsas intellekt relevantne ning ennustatavalt hiiglasliku mõjuga tehnoloogia. Teiseks on mõiste “teadvus” väga lai⁹ ja katab palju võimalikke interpretatsioone; neist vaid üht kasutades ei ole teadvusega AI võimatuse argumenteerimine väga tulemuslik. Lisaks on Lobjaka arvamusavaldus iseendale vasturääkiv. ¹⁰
Oma järelduses vääresindab Lobjakas ka Elon Muski hirme (Musk pelgab rohkem superintellekti ja üldintellekti negatiivset mõju, mitte kitsa intellekti “ärkamist”). Hawkingu hirmust kõneldes teeb ta aga kannapöörde õigele teele ning tõdeb õigustatult, et me ei oska ennustada, kuhu tehisintellekt areneda võib.

ERR avaldas äsja ka TTÜ prof. Tanel Tammeti kommentaari, kahjuks küll valele kirjale:

Ajakirjanik palus kommenteerida http://t.co/0i2XiYMsAi aga ise mõtles ilmselt hoopis http://t.co/thtOcF5mtM 🙂 @lobjakas @lyhis86 @err_ee

— Tanel Tammet (@TanelTammet) August 2, 2015

Tammeti arvamusavaldused on tasakaalukad ning paljuski korrektsed. Tema seisukoht on õige näiteks selles mõttes, et mitte-spetsialistide nagu Muski ja Hawkingu arusaam võib olla piiratud. Õigus on tal ka selles mõttes, et viidatud kiri ei ole tõepoolest eriliselt uus ja huvitav. Samas, kuigi ta õhutab ka sotsiaalteadlasi diskussiooni panustama, teeb ta potentsiaalselt suure vea juba olemasoleva tehnoloogia mõju pisendamises, eelkõige mõju avaldumise ajalise mõõtme hindamisel. Nagu ülal mainitud, ei pea tehnoloogia kitsast intellektist kaugemale arenema, et selle kasutuselevõtt meie kõigi lähitulevikus ühiskonda tundmatuseni muuta saaks. Nende ennustuste tegemine on justnimelt sotsiaalteadlaste ja informeeritud arvamusliidrite pärusmaa.

Eesti keeles on tehisintellekti teemal kirjutatud veel tööde kadumisest automatiseerimise järel, probleemi peab oluliseks ka prof. Urmas Varblane.

Kitsast AI-st teadvusega tehisintellektini

Tehnoloogia on alati inimesi mõjutanud ja läbi tehnoloogia kasutamise on inimesed suutnud üha keerukamaid ülesandeid täita. Tehnoloogia on läbi inimajaloo olnud käepikendus inimese tahtele ja AI on tehnoloogia vorm, mis kitsas vormis (ANI) käitub veel kui käepikendus. Kõik, mis mõne AI sees toimub, pole aga juba praegu paljudele selle valdajatele ega isegi loojatele selge.

Ka kitsast tehisintellekti on oluline arutada, sest:

1. tema potentsiaal mingit kitsast ülesannet täita on suurem kui ühelgi tehnoloogial kunagi varem;
2. inimesed ei mõtle tavaelus formaal-loogiliselt, samas kui paljud AI-d selliselt mõtlevad. Tagajärjena ei mõista inimesed AI-de käitumist ja motivatsiooni.

Kitsal AI-l pole veel teadvust, aga sellegipoolest on ANI-l meie ühiskonnale selge mõju isegi juhul, kui seda saab kasutada ainult tööriistana. Nii, nagu tuumatehnoloogiat saab kasutada nii aatomrelvade kui tuumaenergiajaamade loomiseks, on võimalik AI-d rakendada erinevate eesmärkide saavutamiseks. Erinevalt aga Manhattani projektist, mis nõudis USA-lt ja UK-lt meeletuid resursse, on üha paremate AI-lde areng väikeste uurimisrühmade ja põhimõtteliselt iga riigi, ettevõtte või rühmituse käeulatuses.

On omaette küsimus, kas AI saaks olla teadvusel (ja see küsimus on mingil määral sõltumatu AI arenguastmest), aga kindlasti ei saa seda võimalust välistada. Kunagi olid ka inimese esivanemad ilma teadvuseta, aga meie arengutees on teadvus esile kerkinud, et keerukas maailmas paremini hakkama saada, ja miski ei välista sama protsessi toimumist AI-s. Piirav tegur pole ainult arvutusvõimsus, vaid paradoksaalsel kombel just inimeste kollektiivse teadmistehulga suurus, s.t. teaduse progress. Mida rohkem me teame neuroloogiast ja psühholoogiast, seda lähemal on meile arvutimudelid, mis inimmõistusele sarnaselt toimida võiks.

Kokkuvõte

On tänuväärne, et Eestis on tehisintellekti tuleviku teemaline arutelu käima lükatud, aga produktiivse vestluse pidamiseks on vaja ühist baasi, millest lähtuda: mõisteid, definitsioone ja eeldusi. Teemast edasi lugemiseks soovitame kaht eri käsitlussügavusega allikat: lihtsasti seeditavalt on teemast kirjutatud blogis Wait But Why, põhjaliku ja struktureerituma käsitluse saab Nick Bostromi raamatust Superintelligence: Paths, Dangers, Strategies.

Taivo blogi postitustega kursis olemiseks telli need otse meilile:

Postituse kaanefoto: Dave Sutherland, avaldatud litsentsi CC BY-NC-SA 2.0 all. Originaali on siin modifitseeritud.

Jaga:

1. Let an ultraintelligent machine be defined as a machine that can far surpass all the intellectual activities of any man however clever. Since the design of machines is one of these intellectual activities, an ultraintelligent machine could design even better machines; there would then unquestionably be an “intelligence explosion,” and the intelligence of man would be left far behind. Thus the first ultraintelligent machine is the last invention that man need ever make, provided that the machine is docile enough to tell us how to keep it under control. — Speculations concerning the first ultraintelligent machine, I. J. Good 1965
2. Clarke’i 3. seadus: Iga piisavalt arenenud tehnoloogia on eristamatu maagiast.
3. Ka on ulmekirjanduses spekuleeritud ülimintellekti (ultimate intelligence) võimalikkuse üle. See oleks intellekt, mis suudaks maailma kõiki muutujaid mudeldada. Vt ilukirjandusteoseid Hyperion, The Last Question, The Metamorphosis of Prime Intellect.
4. Intellekti taset saab erinevalt mõõta. Toore arvutusvõimsuse poolest on arvutid juba praegu inimintellektist ees, kuid inimese ajus töötavad algoritmid on tunduvalt paremad.
5. Näide ANI mõjust on isesõitvad autod, mis võimaldavad Uberil kaotada kümne aasta perspektiivis miljoneid töökohti. Mõelge: üks tehnoloogia suudab 10-15 aasta jooksul kogu transporditööstuse pea peale keerata. Selliseid tehnoloogiaid võetakse kasutusele pea igas tööstusharus. Milline on summaarne mõju? Kasudest ja kahjudest räägib oma TED-kõnes Jeremy Howard, Kaggle’i endine president.
6. Nick Bostromi raamatust termin AI control problem
7. Väga algeline näide on iseehitatud püstoliga droon.
8. Kujutle Vietnami sõda täies metsikuses, kui ameeriklastel oleks oma sõdurite ellujäämisest suva.
9. Lisaks teadvuse mõiste laialivalguvusele pole teadus sel teemal kaugeltki oma viimast sõna öelnud. Hea eestikeelne allikas enese kursishoidmiseks on neuroteadlase Jaan Aru blogi, mis katab teadvuse ja ajuga seotud teemasid mitmesaja postitusega.
10. “Unustage singulaarsus, see on võimalik vaid bioloogiliste protsesside jäljendusena.” Kui ta on võimalik vaid kindlal tingimusel, siis miks teda unustama peaks? Kas ta on autori meelest võimalik või mitte – ühes lauses väidab ta üht, teises teist? Kas Lobjakas on tuttav nende neuroloogilisi protsesse jäljendavate tehnoloogiatega, mille kallal teadlased üldintellekti võimaldamiseks kibekiirelt töötavad? Tõsine tehisintellekti kallal käiv töö ei ennusta isesõitva auto või muruniiduki “ärkamist”, vaid üritab mõista ja mudeldada neid kompleksseid protsesse, mis on viinud bioloogilise intellekti tekkeni.