Maailmassamme, jossa puhutaan jatkuvasti pian saapuvasta tekoälyn yleisälystä (AGI, Artificial General Intelligence), kukaan ei juuri korosta BGI:n — Biological General Intelligencen eli biologisen yleisälyn — saavutuksia, vaikka sellainen on ollut olemassa jo kauan. Itse asiassa juuri BGI yrittää luoda AGI:n.
On helppo häikäistyä niistä asioista, joissa tietokoneet todella loistavat: datan käsittelyssä, täydellisessä muistamisessa, matematiikassa, rajattujen kontekstien hallinnassa, ylhäältä alas suuntautuvassa deduktiivisessa päättelyssä, todennäköisyyspohjaisessa induktiivisessa päättelyssä — ja ehtymättömässä kärsivällisyydessä.
Ja samalla on helppo vähätellä niitä asioita, joissa tekoäly ei ole hyvä, mutta joissa BGI on. Tämä on itse asiassa melko pitkä ja rohkaiseva lista.
Olemisen ongelma (Ontologia)
Ruumiillisuus
Emme ole pelkkiä aivoja (tai ”brianeja”, jos olet lukihäiriöinen kuten minä), joita keho vain kuljettaa mukanaan. Olemme mieli–ruumis-järjestelmiä. Meillä ei ole kehoa — me olemme kehomme (vrt. Merleau-Ponty). Otamme tämän itsestäänselvyytenä, koska olemme tehneet sitä siitä asti kun aloimme kontata.
Käy kuitenkin ilmi, että olemisessa maailmassa ja maailman ymmärtämisessä (ei vain todennäköisyysarvioiden tekemisessä siitä) on todella vaikeaa, koska meillä on aina vain osittaista tietoa maailmasta, jossa elämme. Ihmisillä on yli 30 erilaista aistia, ei vain viisi klassista ulkoista aistia. Hauska fakta: shakinpelaaminen suurmestarin tasolla tai differentiaalilaskenta vaativat hyvin vähän laskentatehoa, kun taas matalan tason sensorimotoriset taidot (esim. käveleminen) vaativat valtavat resurssit — Moravecin paradoksi.
Sijaintuneisuus
Olemme aina sijoittuneita tiettyyn aikaan ja paikkaan. Elämme jatkuvassa havainto–toiminta-silmukassa dynaamisessa ympäristössä — suuren osan tästä hoitaa alitajuntamme. Yritämme usein kävellä ”tietoisella mielellä”, kun pitäisi luottaa tiedostamattomaan.
Vuosien varrella sijaintuneisuus on antanut meille ”maalaisjärjen” heuristiikkoja oudoissa tilanteissa. Jopa hyvin rajattu toiminta, jossa on tiukat säännöt — kuten auton ajaminen — on osoittautunut tekoälylle vaikeaksi (vrt. Heideggerin Dasein, oleminen-maailmassa).
Evoluutio
Me ja ihmisenkaltaiset esi-isämme olemme sopeutuneet maailmaan pitkään. Ruumiillisuuden ja sijaintuneisuuden puute tekee evoluutiosta (muussa kuin teknisessä mielessä) vaikeaa laskennalliselle AGI:lle.
Voimme tutkia punaista väriä aallonpituutena, pigmenttien kemiana, väriteorian kohtana tai kulttuurisina merkityksinä. Kaikki tämä on pätevää tietoa, mutta puuttuu jotakin — subjektiivinen kokemus eli qualia punaisen näkemisestä (Jacksonin Maryn huone). Todellisella AGI:lla pitäisi olla kyky kokea. Nagelin ”Millainen on olla lepakko?” havainnollistaa, että toisen lajin kokemus (esim. kaikuluotaus) ei ole meille aidosti saavutettavissa.
Kokemus on BGI:n ydin — kuten lukuisat Star Trek -jaksot näyttävät, joissa Data tai Voyagerin tohtori yrittävät ”kokea” kuten BGIt.
Idea: Jos AGI ei voi kokea, se jää aina olemaan maailmasta kertova, ei maailmassa oleva.
Motivaation puute
Ihmisillä on monimutkainen kognitiivinen arkkitehtuuri, joka ohjaa ponnistuksia halujen, tarpeiden ja tunteiden kautta. Tämä antaa BGIlle sisäisen motivaation ja jäsentää aikaa sekä prioriteetteja. Se vastaa päivittäin kysymykseen: ”Mitä minun pitäisi tänään tehdä?” Ilman sisäistä motivaatiota AGI olisi inertti — odottaisi ulkoista motivointia. Schopenhauerin elämän tahto ja Nietzschen vallan tahto kuvaavat näitä biologisia perusviettejämme.
Persoonallisuuden johdonmukaisuus
Miksi ja miten AGI kehittäisi johdonmukaisen persoonan? BGIt tekevät niin, koska olemme sosiaalisia — yhteiselo on hankalaa, jos reagoimme sattumanvaraisesti. Digitaalisena olentona AGI:n persoona voisi olla kopioitavissa (ellei se olisi ruumiillistunut). Olisiko jokainen AGI yhtä uniikki kuin BGI? Parfitin Teletransportteri kysyy: jos Marsiin saapuva ”uusi sinä” on olemassa, mutta ”vanha sinä” on tuhottu — oletko se todella sinä? Entä jos vanhaa ei tuhota — onko teitä kaksi? Pidämme itseä jakamattomana; olisiko se totta AGI:lle?
Kaikki ajattelu ei seuraa suoraa algoritmia. AI voi vaikuttaa luovalta, mutta hyödyntää pääosin muistiaan (BGIn luovuus) ja todennäköisyyksiä ideoiden yhdistelyssä. Searlen kiinalainen huone näyttää, että ”ymmärryksen” illuusio syntyy säännön noudattamisesta ilman merkityksen ymmärtämistä.
Abduktiivinen päättely
AI on vahva deduktiossa ja induktiossa, mutta kompuroi abduktiossa: todennäköisimmän selityksen löytämisessä rajatusta datasta. Märkä nurmikko → todennäköisesti satoi. Ruumiittomuutensa vuoksi AI:lla ei ole maailman toiminnallista ”arkijärkeä”, joten se karttaa ”parhaita arvauksia” harvinaisissa aiheissa.
Mielen teoria
Ilman mielen teoriaa (uskomukset, aikomukset, halut, tieto, tunteet) AGI ei voi olla empaattinen, ymmärtää sarkasmia tai tehdä yhteistyötä. Sally–Anne -koe on klassikko. AI voi oppia läpäisemään sen papukaijamaisesti, muttei siksi, että se ymmärtäisi uskomuksen käsitteen.
Perfektionismin harha
AGI-keskustelua sävyttää Frankenstein-fantasia: singulariteetti ja älyräjähdys. Maailma on kuitenkin sotkuinen ja lopulta tuntematon. Gödelin epätäydellisyyslauseet rajaavat, että ”täydellinen tieto” tai ”täydellinen päättely” on loogisesti mahdotonta. AGI voi olla meitä älykkäämpi, muttei täydellinen.
Kognitiivinen siirtymä
Teknologinen syrjäytyminen on jatkunut pitkään; generatiivinen AI tuo kognitiivisen augmentaation ja syrjäytymisen. Tietotyö massailmiönä on nuori. BGIn on määritettävä arvomme kohti ruumiillisia kokemuksia, tunneyhteyksiä, hoivaa, taiteellista ilmaisua ja subjektiivisen tietoisuuden arvostamista — tietäen, ettei moraali ole täydellinen optimointi-ongelma. Jos AGI syntyy, se tekee omansa ja me omamme — toivottavasti myös yhteisellä välialueella. (Mutta missä se robottipalvelija viipyy?)
AGI olisi lähtökohtaisesti amoraalinen ilman laajoja ihmisten rakentamia turvakaiteita. Etiikka ei ole binäärinen: utilitarismi (Bentham), deontologia (Kant) vai hyve-etiikka (Aristoteles)? Footin Trolley problem muistuttaa, ettei etiikka ole ratkaistava yhtälö, vaan dilemmojen maisema.
Huonot tavat
AI on oppinut meiltä myös vinoumat ja eriarvoisuudet. Se heijastaa meitä ”warts and all”. Suunnittelijat yrittävät lieventää tätä, mutta tehtävä on vaikea — täysin puolueeton maailma on utopia.
Realismia: Jos haluamme ”moraalisen” AGI:n, on päätettävä kenen moraali, missä, milloin ja miksi — ja hyväksyttävä väistämättömät kompromissit.
Lopuksi kyyninen varoitus: AGI on toistuvasti ollut pieleen mennyt ennustus (tai vähemmän kauniisti: markkinointihype pääoman keräämiseksi). Synnyin 1950-luvulla — missä on lentävä autoni ja rakettireppuni? Miksei Marsissa ole siirtokuntaa? Miksi elämäni ei muistuta George Jetsonia? Musk sanoi vuonna 2014, että AGI olisi viidessä vuodessa. Ei tullut. Ehkä ne ovat paljon vaikeampia kuin kuvittelimme — tai eivät realistisia.
Generatiivinen AI on silti hämmästyttävä, ja sen kanssa on ilo työskennellä. AGI voi olla mahdollinen, mutta aliarvioimme sen vaikeuden, koska aliarvioimme BGIn — koska ”me vain teemme sitä, mitä teemme”.
”Kauempana galaksin muotitietoisen läntisen haaran kartoittamattomilla takamailla kiertää pieni, vähätelty keltainen aurinko. Sitä kiertää suunnilleen 92 miljoonan mailin etäisyydellä vähäpätöinen sinivihreä planeetta, jonka apinoista polveutuneet elämänmuodot ovat niin uskomattoman alkeellisia, että ne yhä pitävät digitaalisia rannekelloja aika hienona ideana.”