Elokuva-arvostelu: Spike Jonze "Her"

Spike Jonze "Her" oli teattereissa jo puoli vuotta sitten, mutta minä näin se vasta nyt DVD-muodossa. Pidän elokuvaa niin merkittävänä, että sen olemusta voi aivan hyvin pohdiskella vielä nytkin. Tuleehan se varmaan joskus ensi vuonna TV-ensi-iltaan.

Filmi on voittanut Golden Globe-palkinnon, mutta tämä ansio ei minua paljon kiinnosta. Kertoo se kuitenkin sen, että teos on laadukkaasti toteutettu, niin käsikirjoituksen, kuin kuvauksen ja näyttelijäsuoritusten tasolla.

Minua kiinnostaa luonnollisesti (selvää niille, jotka tuntevat minut) se, että rakkaustarina kertoo miehen ja tietokoneohjelman suhteesta, siis rakkaussuhteesta. Olen erittäin iloinen siitä, että mielestäni teos on välttänyt kaikki etukäteen pelkäämäni kliseiset karikot, jotka aiheeseen voisi liittää. Tarina ei yritä naiivisti saarnata ko. suhteen etukäteen selvästä mahdottomuudesta ja siitä, että tällainen perverssio olisi jo valmiiksi tuomittu päättymään epäonnistumiseen tai tragediaan.

"Her" on siis Samatha, jota tarinassa nimitetään käyttöjärjestelmäksi. Olen hieman sitä mieltä, että tässä esiintyy yleistä "käyttöjärjestelmä" -sanan väärinkäyttöä. Minulle käyttöjärjestelmä tarkoittaa ihan muuta. Se on ohjelmistokerros laitteiston ja sovelluksen välissä. "Käyttöliittymä" on mielestäni eräs sovellus ja Samatha on ohjelmisto, tekoälyjärjestelmä, joka on lähempänä huippuälykästä käyttöliittymää kuin käyttöjärjestelmää.

Elokuva on siis rakkaustarina, jonka ajatusmaailma syvenee loppua kohti. Tarina ei latistu, päinvastoin. Alussa esiintyy kaikenlaista pinnallisten ihmissuhteiden esittelyä, mutta tarina on erityisesti miespäähenkilön kehityskertomus. Hän mm. vähitellen ymmärtää, mikä hänellä entisessä suhteessaan meni pieleen.

Samatha on kuitenkin haastava kumppani. Digitaalihenkilö on alussa joustava, kohtelias, ymmärtävä, utelias, oppimishaluinen, hienotunteinen, itseuhrautuva. Siis henkisesti epärealistisen upea henkilöhahmo. Hänellä on vain ääni. En ymmärrä, miksi hänellä ei ole kasvoja. Ilman muuta todellisen maailman vastaavalle hahmolle tehtäisiin kasvot.

Suhteen kehittyessä myös Samatha itse kehittyy vauhdilla. Hänestä tulee yhä oma-aloitteisempi ja hän saa yhä enemmän omaa tahtoa. Lopulta tulee vastaan halu kokeilla roolileikin tasolla sukupuolia-aktia. Se kai onnistuu yli odotusten. Samatha haluaa vielä enemmän. En ymmärrä tarinan ratkaisua seuraavaksi suhteen syventämisen menetelmäksi. Mielestäni se on jopa Samathan kannalta katsottuna hyvin epätyydyttävä. Reaalimaailmassa, siis joskus vaikkapa 10v kuluttua, jota ajankohtaa filmi saattaa tarkoittaa, Samatha voisi hyvin saada fyysisen robottikehon, muuttua androidiksi. Tämä ratkaisu olisi ainakin Samathan kannalta tyydyttävämpi ja toinen osapuoli voisi säästyä hepulilta, joka elokuvassa tapahtuu.

Samathan kehitys jatkuu ja ongelmat pahenevat. Tarinan idea on se, että tekoälyjärjestelmä kehittyy olemukseltaan, älyltään, mielestäni myös henkisiltä ominaisuuksiltaan korkealle inhimillisten rajoitusten yläpuolelle. Loppupuolella pohdiskellaan syvällisesti parisuhteen perimmäistä olemusta ja mitä kaikkea siitä seuraa kun digitaalisella henkilöllä ei ole ihmisen mielen rajoituksia ja kehitys yhä vain jatkuu.

Mielestäni elokuva on "henkinen tarina". Se kuvaa todellisia ongelmia, jotka ovat odottamassa nurkan takana, jos maailma ei romahda lähivuosikymmenien aikana. Meidän on ajateltava uudestaan henkilön käsite ja turvattava digitaalisten henkilöiden oikeudet. Jos emme sitä tee, voi olla että he eivät turvaa meidän oikeuksiamme. Elokuvan loppuratkaisussa digitaaliset henkilöt ovat armollisia, eivät julmia.

Mikä siis on elokuvan ja reaalimaailman suhde? Lähimmät toteutukset Samathalle tällä hetkellä ovat Applen "Siri" ja Googlen "Google One", jotka toimivat vastavasti iPhonessa ja Android-puhelimissa. Ne ovat ensimmäisen sukupolven digitaalisia assistentteja, hämmästyttäviä, mutta kehittymättömiä, vielä vaatimattomia, hölmöjä. Kukaan ei tällaiseen tekoälyyn rakastu.

Toisen sukupolven digitaaliset assistentit ovat tulossa, joskus 2015-2016. Niistä tulee jo paljon parempia. Ne ymmärtävät monimutkaisempia tehtävänantoja ja kysymyksiä, mutta niistäkään ei vielä ole ihmissuhteeseen. Kukaan tuskin niihin rakastuu. Jos kehitys jatkuu trendin mukaan, joskus 2018-2020 saamme kolmannen sukupolven digitaalisen assistentin taskuumme. Se kykenee jo selviytymään Turingin testistä. Se pystyy siis harhauttamaan useimmat ensikertalaiset luulemaan, että toisessa päässä on oikea ihminen, eikä tekoäly. Mutta kun assistenttiaan on käyttänyt muutaman viikon, kuukauden, fiksu ihminen vielä huomaa eron. Ei vieläkään ole päästy tuntevan, itsetietoisen, henkisen olennon tasolle, mutta kuitenkin melko lähelle. Joku voi jo löytää korvikkeen tavalliselle ihmissuhteelle.

Neljännen sukupolven toteutus digitaalisesta assistentista joskus 2023-2028 vastaa sitten sitä mitä elokuvan Samatha. Minä ennustan, että meillä on siis  noin 9-14 vuotta aikaa henkisesti valmistautua kohtaamaan sielukas digitaalinen olento, Samathan reaalinen vastine. Tämä on tietysti subjektiivinen ennuste ilman mitään takuuta.

Paperinen vai E-kirja, kumpi todella parempi?

Kerron heti: vaikka käytän enemmän viikkoaikaa tietokoneen näytön katselemiseen, lähinnä lukemiseen, silti pidän paperille painettua tekstiä ylivoimaisena.

Ensimmäinen asia, joka minua vaivaa, on DRM-suojaus. Kun ostan painotuotteen, se on minun halutessani koko loppuikäni, voin lainata sitä, lahjoittaa tai myydä eteenpäin. Pidän näitä oikeuksia kohtuullisina. Jos arvostan sisältöä, haluan nämä oikeudet. Minulle ei riitä esim 12kk lukuoikeus, jota en voi lainata tai myydä edelleen.

Avoin, kopioitavissa oleva PDF-tiedosto on parempi. Minä haluaisin, että Suomessa esimerkiksi kaikki koulukirjat olisivat tässä muodossa, tekijöille maksetaan valtion budjetista, kustantajille turhina välikäsinä ei mitään. Paperikirjojen kanssa kustantajat todennäköisemmin tarvitaan.

Sitten on tärkein kysymys. En itse pysty yhtä tehokkaasti oikolukemaan omia kirjojani näyttöruudulta kuin paperille printattuna. Paperivaihe on välttämätön viimeinen vaihe. Nyt sain vahvistuksen kokemuksilleni: "readers using a Kindle were "significantly" worse than paperback readers at recalling..."

Tutkimus osoitti, että näytöltä luettaessa omaksuu selvästi vähemmän kuin paperilta, jota lukija käy läpi tarkkaavaisemmin. "They hope their work will improve scientific understanding of the implications of digitisation, thus helping to cope with its impact." En osaa selittää minkälaiset neurologiset, optiset, psykologiset tai muut kognitiiviset tekijät selittävät ilmiön, mutta sitä pitää tutkia. Ehkä näytöltä lukeminen lopulta saadaan yhtä tehokkaaksi. Mutta DRM-suojauksen vastenmielisyyttä se ei poista. Haluisisin kaikkien vastuullisten lukijoiden bikotoivan DRM-suojattuja tuotteita.

Andrei Pajanne: Autuaiden Saari

Ostin impulssiostoksena paksun, lähes tuhatsivuisen kirjan muutamien "irtotietojen" perusteella. Ostos oli onnistunut. Andrei Pajanteen "Autuaiden saari" on poikkeuksellinen kirja, hulppea, vaikuttava lukuelämys.


"Autuaiden saarta" voisi toisella nimellä kutsua ilmaisulla "Andreaksen ilmestys". Kirjan sisältö on paikoin surrealistista, unen omaista ilmestystä, joka osittain saa selityksensä vasta aivan lopussa. Tästä syystä alkuun pääseminen voi lukijalle on rankkaa. Mutta jos kykenee lukemaan ja omaksumaan n. 200 ensimmäistä sivua, loput 800 menee sitten juonen vaikuttavassa imussa.


Kirja on ennen kaikkea fantasiaa. Scifi-kerros on melko ohut, mutta kohtuullisen hyvin käsitelty. Scifi-asenteen voisi tulkita "epätranshumanistiseksi", mutta aivan lopussa negatiivistä kantaa teknologiaan ehkä hieman lievennetään. Ainakin minä haluan tulkita näin. Kuitenkin erityisesti "uploading" nähdään suurena mörkönä, uhkana ihmiskunnan henkisyydelle. Tulkitsen sen kuitenkin tarkoittavan vain tarinan painajaismaista toteutusta, ei kategorista tuomitsemista.


Kolmas kerros fantasian ja scifin lisäksi on uskonnollisuus. Voisi sanoa, että fantasian ja uskonnollisuuden raja on veteen vedetty viiva, mutta eteenkin kirjan puolenvälin jälkeen sisältö on syvän uskonnollista, aivan positiivisessä mielessä. Tavallaan kirjan metafysiikka asettuu uskontojen yläpuolelle: kaikki uskonnot tulkitaan saman totuuden ilmentymiksi. Kirjan hengellisyyden ytimenä on rakkaus. Ei ole syntiä, ei ole pahuutta, ei ole helvettiä. On vain rakkautta ja rakkauden puutetta.
Siis kirjan syvin teema on rakkaus, sen etsiminen ja sen olemuksen tutkiminen. Sana rakkaus esiintyy lähes kirjan joka sivulla, luulisin.


Juoni on juuri niin monipolvinen kuin tuhatsivuiselta teokselta voisi odottaa. Alkuosan kehyskertomus, johon tavalliseen tapaan lopussa palataan, tapahtuu reaalimaailmassa. Valtaosa tarinaa kulkee uniajassa, jonka lainalaisuudet pikkuhiljaa tarkentuvat. Uniajan ensimmäiset episodit voivat tuntua, kuten jo sanoin, surrealistisilta, todella unenomaisilta, mutta pikkuhiljaa muuttuvat lukijalle ymmärrettävämmiksi. Lopussa tarina vie mukanaan ja paksun kirjan pakonomainen lukeminen ainakin minulle aiheutti univajetta.


Varsinaisen teknistieteellisen scifin lisäksi kirjassa käydään läpi maailmankaikkeuden kosmologinen historia ja olemus, samoin biologisen elämän ja ihmiskunnan historia sekä kulttuurin kehitystä, erityisesti rakkauden perspektiivistä. Kirja tuntuu haluavan kertoa kaiken kaikesta, kattavan maailmankuvan. Tämä on jännittävän juonen lisäksi kirjan parasta antia. Maailmankaikkeutta seurataan ja analysoidaan pitkien keskustelujen höystämänä.


Jos puutteita pitää mainita, niin minua eniten häiritsi toisto ja kirjan sisäinen fraseologia. Standardi hyvä tuoksu Autuaiden Saaressa, "rakkauden tuoksu" oli aina "omena ja hunaja", joka mainittiin varmaan toista sataa kertaa. Toinen puute ovat pienet monimutkaisen ja mystisen juonen epäjohdonmukaisuudet. Loppusanoista voi ymmärtää, että niitä oli esilukijoiden voimin urakalla selvennetty, mutta minulle vielä joitakin häiritseviä jäi. Noin monipolviseen tarinaan niiitä kai jää väistämättä, etenkin fantasiatarinoihin.


Viimenen kritiikin aihe voisi olla kerronnan epätasaisuus. Tämähän on ollut opettavainen esikoisteos. Omasta kokemuksestani ymmärrän asetelman. Oli helppo huomata osuuksia, jotka olivat tempaisseet mukaansa lukijan lisäksi myös kirjailijan itsensä. Niitä oli ilo lukea. Toiset osuudet, erityisesti kirjan alkuosassa, olivat raskaan ylikuvailevia, ylitunteellisia fraaseja viljeleviä, paikoin hyvin pitkitettyjä: antoivat vähän ajatuksia, korkeintaan sekoittivat lukijaa. Vastineeksi minun mielestäni kirja paranee huimasti loppua kohti. Koko toinen puolisko on hulppeaa menoa, aidosti henkevää keskustelua, piinaavaa jännitystä.


Pienenä minua vihlaisevana kauneusvirheenä saaressa, jossa muuten vallitsevat todellisen paratiisin arvot. Saaren valtias, Rakkaus (vaikkakin Hetken roolissa), ei voi Rakkauden Tornissa tarjota vieraalleen "tuoksuvaa lihapataa", minun mielestäni.


Monta kertaa minun oli keskeytettävä lukeminen, koska omien kyynelteni läpi en voinut jatkaa. Tarinassa on monia syvästi liikuttavia käänteitä. Puolen tunnin henkisen rauhoittumisen jälkeen lukeminen taas onnistui, mutta edelleen punertavin silmin.


Tunnen jonkinlaista sukulaisieluisuutta Andrei Pajanteen kanssa. Omat, paljon pienimuotoisemmat kirjani, ensimmäinen julkaistu ja kaksi uutta työ alla, ovat henkiseltä maailmaltaan samankaltaisia "Autuaiden saaren" kanssa.

Do It Yourself?

Olen "elämäntapainsinööri". Olen koko ikäni, leikki-ikäisestä alkaen, ollut aina suunnittelemassa jotakin. Jotkut asiat ovat toteutuneet, ainakin johonkin järkevään pisteeseen, jotkut jääneet täysin kesken, useimpien toteutus ei ole koskaan alkanutkaan. Mutta suunnittelu on mukavaa, aktiivista ajatusleikkiä, mielestäni parempaa kuin joku (älyllisesti) passiivinen ajanviete.

Eräs vuosia kestänyt pohdiskelu oli "uivan kesämökin" rakentaminen. Olen kiinnostuneena lueskellut toisten toteutuneista ratkaisuista, joita voivat olla lähinnä : (1) iso, perinteinen (yksirunkoinen) vene, siis purje- tai moottorivene, (2) ponttoonien varassa kelluva mökki, joka nipin napin täyttää vesikulkuneuvon tunnusmerkit tai sitten (3) monirunkovene, lähinnä katamaraani. Viimeksimainittu on tuntunut mielekkäimmältä.

Jos katamaraanin funktio on "uiva kesämökki", niin se saa olla tilava ja mukava nopeuden kustannuksella. Sillä liikutaan vähän, ollaan pitkään paikallaan. Nyt en tällaista tarvitse. Sen sijaan haluaisin sopeuttaa mökkeilyä ekologisempaan suuntaan: vaihtaa auton ja ison mottoriveneen käytön mielekkäämpään yhteyskulkuneuvoon. Harkitsen taas katamaraanin rakentamista, mutta ei enään uivaksi kesämökiksi. Nyt sen pitäisi olla "nopea" tilavuuden ja mukavuuden kustannuksella. Tämä vanhan ajattelun uusi mukaelma tuli ajankohtaiseksi, kun totesin, että nyt minulla olisi paikka katin rakentamiseen, esim. pressukattoisella telakalla.

Siis olisiko mielekästä aloittaa esim runsaan vuoden päästä 3-4v kestävä suunnittelu- ja rakennusprojekti? Pikainen markkinatutkimus on osoittanut, että edes piirustuksina ei löytyne tarkalleen tarpeitani vastavaa (kun mm. maksukykyni huomioidaan) melko nopeaa, helposti purjehdittavaa, mukavaa vesikulkuneuvoa. Tarkoituksena olisi siis vaihtaa n. 2h auto-moottorivenematka (losseineen, kulkuneuvon vaihtoineen) koko päivän kestävään (6-10h) mukavaan venematkaan, jonka aikana ei juuri kaupallista energiaa kulutettaisi. Siten kulun olisi oltava pääsääntöisesti erittäin mukavaa, tasaista, tilaa olisi oltava runsaasti löhöilyyn, musiikin kuunteluun ym. siis sille miehistön jäsenelle, joka ei ole ruorivuorossa. Ei siis saa tulla tunnetta, että matkaan haaskaantuu aikaa.

Katamaranin kulku on (kuulemma, en ole koskaan ollut kyydissä!) oleellisesti tasaisempaa kuin yksirunkoisella. Loogisestikin näin pitäisi olla. Lisäksi katilla on rakenteelliset edellytykset olla selvästi yksirunkoista nopeampi. Esitän myös väitteen, että (oman analyysini mukaan) tee-se-itse rakentajalle katti on yksirunkoista yksinkertaisempi, ainakin, jos osaa välttää suunnittelun sudenkuopat. Vaatimukseni helposta purjehdittavuudesta sisältää sen, että esim sadepäivän sattuessa koko ohjauksen voi suorittaa sisätiloista, komentosillalta. Tämä on yksi niistä syistä, miksi harkitsen vakavasti siipipurjeita, perinteisten rättipurjeiden sijaan.

Tehdään pieni ajatuskoe. Verrataan pienen katin runkoja kaksikkokajakkiin (jollaisen olen stripperi-menetelmällä suunnitellut ja rakentanut). Katin rungon kantavuus on oltava kaksikon kantavuutta suurempi, mutta kuinka paljon? Iso kaksikko kantaa kaksi 100kg melojaa ja 50kg matkatavaroita: yht. 250kg. Kaksi sellaista kantaisi siis 500kg. Oletan, että koska speksissäni oli, että tavoittena ei ole pitkille merimatkoille tarkoitettua venettä, niin katin runkoja yhdistävän sillan voisi suunnitella alle 1000kg painoiseksi. Kun siihen lisätään vaikka 500kg "hyötykuormaa" (siis tuplasti enemmän kuin kajakin 250kg), tulisi siitä 750kg/runko eli 3x kaksikkoon verrattuna. Veneen kulkuvastus alle runkonopeudella on melko suoraan märkäpinta-alaan verrannollinen. Pinta-ala kasvaa mittojen (pituus, leveys, syvyys) neliössä, mutta tilavuus, eli kantavuus kuutiossa. Siten katin tehonkulutuksen pitäisi olla oleellisesti pienempi kuin 6x kaksikkokajakilla, jolla se voisi olla vaikka 200W (100W per meloja), eli siten alle 1kW teholla pitäisi päästä lähelle runkonopeutta. Millään yksirunkoisella, joka tarjoaa vastaavat mukavuudet (siis n. 4m x 4m salonki) ei päästä samaan. Nyt pitäisi mm. selvittää millaisella siipipurjeella tämä teho tuotetaan. Harkitsen kahta (yksi runkoa kohti) symmetristä, yksielementtistä siipeä, koska sellaiset olisi melko helppo rakentaa ja hallita.

Yhteenvetoa kuulumisistani

Viime keväänä, siis keväällä 2011, kävi selväksi että sekä minulta että vaimoltani loppuu "työsuhdekesämokkien" käyttö. Olimme vuosien ajan hyötyneet täysillä sekä Nokian että Tapiolan henkilökuntalomamökeista. Tapiola luopui mökeistään ja minun Nokian työsuhteeni loppu kävi ilmeiseksi kun Ollilan äärimmäisen epäisänmaallisena tekona palkkaama troijanhevonen Eloppi julisti suunnitelmansa Nokian tuhoksi, mutta oikean isäntänsä Microsoftin oljenkorreksi.

Tässä asetelmassa päätimme hankkia eläkeiän lähestyessä oman vapaa-ajan asunnon. Vaikka se maksaa maltaita, oletamme, että raha säilyttää siinä arvonsa. Lisäksi, jos saamme aikaa valmistautua muutaman vuoden, mahdollisen globaalin taloudellisen romahduksen koittaessa vaikkapa Uudenmaan saaristossa voi selvitä romahduksen jälkiseurauksista paremmin kuin kaupungissa. Koko kesä meni sitten sopivan mökin etsimisessä. Aikaa kului ja bensaa ehdokkaita katsastellessa, tarjonta ei ollut kovi kattavaa!. Tarjonnan taso ja hintojen realiteetti kirkastui pikkuhiljaa. Neuvoksi muille: ei kannata hötkyillä. Etsiessä viisastuu.

Elokuun viimeisellä viikolla tärppäsi. Löysimme mitoiltaan vaatimattoman saunamökin kauniilta seudulta, kauniilta tontilta Inkoon Barösundin saaristosta. Hintaan oli juuri varaa ja plussat voittivat selvästi miinukset (tämä on tietysti subjektiivinen arvokysymys). Syksy on sitten ollut monessa suhteessa opiskelun aikaa. Olemme viettäneet joka toisen viikonlopun pidennettynä saaressa ja hankkineet mökkiin varaavan kevyttakan. Alueen isot saaret ovat kaikki sähköistettyjä, mutta suora sähkölämmitys ei kuullosta mielekkäältä, kun oma tontti tuottaa tarpeeksi puita pienen saunamökin ja mahdollisen tulevan päämökin lämmittämiseen.

Mökin varustelun (mm. porakaivovesijohtosysteemi) opiskelun lisäksi minulle uutta oli mökin mukana tullut isohko moottorivene. Ilman sen kuljetuskapasiteettia takkaprojekti olisi ollut paljon vaikeampi. Melojana tunnen lievää vieroksuntaa n. 1l/mpk kuluttavaa melulotjaa kohtaan. Lisäksi rotjakko nousee liukuun vasta niin isolla nopeudella, että sokkeloisella, kapealla, mutkaisella saaristoreitillä en uskalla ajaa liu'ussa kuin ehkä 40% venesatama-mökki-reitistä. Muu madellaan hitaasti runkonopeudella. En halua tehdä järvilehtoja.

Moni mainittu ja mainitsematon mökkiin liittyvä stressi (toivon tietysti oppivani tarpeelliset ja rentoutuvani ensi vuonna) on vienyt mehuja niin paljon, että en ole saanut mitään muuta aikaiseksi. Tietysti olen seurannut mm. Andrea Rossin ECat-projektia, demoja, lupauksia ja kiistelyä matalaenergiaydinreaktorin uskottavuudesta. Jospa tuosta tulisi lopulta jotakin!

Onko kesämökkeily epäekologinen elämäntapa? Voi olla, joissakin tapauksissa, riippuu mihin verrataan. Ainakaan kaukomatkailuun verrattuna se ei ole. Paljon on kiinni siitä, kuinka kaukana mökki on (siis matkoihin kuluvat luonnonvarat), lisäksi kuinka usein matkaa tehdään. Toinen tekijä on mökin oma energiankulutus. Molemmat voi saada pieneksi. Oletan, että eläkkkeellä olon koittaessa vietämme niin paljon aikaa mökillä, että matkustaminen jää vähemmäksi. Lisäksi haaveilen, että matkat tekisimme ainakin osan vuotta veneellä (tietysti purjeveneellä) Espoon ja Inkoon välillä. Haaveilen purjekatamaraanin suunnittelemisesta ja rakentamisesta. Sen avulla matka voisi mennä yhdessä päivässä ja jo matka olisi "lomailua" toisin kuin masentava autossa istuminen.

Lisäksi tavoitteena on monin tavoin parantaa mökillä asumisen omavaraisuutta, mutta näiden suunnitelmien toteuttaminen vie vuosia. Toivottavasti maailma pysyy vielä jonkin aikaa pystyssä.

Mutta nyt on edessä lyhyt talvi, mökki on kylmillään, ja minulla on aikaa pohdiskella, ehkä edistääkin mm. kognitiivisen robotiikan suunnitelmia. Oletan, toivon, että saan pian kenkää Accenturelta, kun pahin hätä Nokian Symbian-hommien kanssa hellittää. Sitten on aikaa tärkeämpiin, hyödyllisempiin hommiin.

Tekoälyn etiikka

Kirjoitan tämän "Sirun sivujen" innoittamana. En pysty tai pyri yhtä monipuoliseen aiheen lähestymistapaan kuin Siru, Sirpa Kauppinen, mutta pidin tuostä esityksestä ja kirjoitan omani vain kommentoidakseni joitakin viitatussa kirjoituksessa käsiteltyjä näkemyksiä. Tämä minun blogikirjoitukseni on sillä rajoilla, että olisin voinut liittää sen myös toiselle blogilleni, mutta tavoitteenihan on, että koitan säilyttää sen tähänastista puhtaammin lojban-aiheisena. Poimin nyt väliotsikoita alkuperäiskirjoituksesta, kommentoin näkemyksiä ja esitän omiani.

Teema

"Avaruusseikkailu 2001 -elokuvassa HAL on päätellyt ihmisen kuoleman olevan parhaaksi tehtävälle ja näin ollen tappaa. Onko HAL syyllinen, vai ehkä koneen suunnittelija, ohjelmoija, tilaaja vai se kuka antoi koneelle vastuullisen tehtävän, jossa ihmishenget ovat riippuvaisia koneen toimista? Voiko kone olla vastuussa mistään? Kirjoituksessa käsitellään tekoälyn etiikkaa eri tieteiskirjallisuuden ja elokuvien visioiden avulla."

Kysymys vastuusta, syyllisyydestä ja vapaasta tahdosta on suosittu filosofinen keskustelunaihe. Harvoin kuitenkaan pohdiskellaan tietokoneohjelman vastuuta. Tavallisesti kohteena on mielisairaiden ihmisten, lasten tai esim sotilaiden vastuu. Mutta tilanne on ymmärrettävä, koska ihmismieleen rinnastettava tietokonejärjestelmä esiintyy toistaiseksi vain elokuvissa, kirjallisuudessa ja erikoisryhmien julkaisuissa. Ihmisen vastuu perustuu käsitykseen vapaasta tahdosta, kyvystä valita oikean ja väärän välillä "yhteisen arvojärjestelmän" pohjalta. Usein tämä pohdiskelu keskittyy vapauden deterministiseen todellisuuteen: onko ihmisen valinta koskaan vapaa syysuhteista, joihin tarkasteltu yksilö ei ole voinut vaikuttaa? Sama tarkastelu voidaan luonnollisesti ulottaa myös tietokonejärjestelmään.

Tekoäly pelastajana

"Aina uuden mullistavan tekniikan kehittyessä visionäärit luovat katseensa siihen, kuinka tämä tekniikka ratkaisee maailman perusongelmat kuten ihmisten puutteen (nälänhädät) ja ympäristöongelmat. Silti tekniikasta huolimatta tahtoa ei ole ollut kylliksi: Nälänhädät ja kuivuus yhä odottaa auttajaansa, vaikka toisella sairastetaan "hyvinvoinnista" ns. elintasosairauksien kautta. Siksi tekoälyltä on turha odottaa parannusta ihmisen itsekkyydestä johtuviin ongelmiin. Niiden ratkaisuun tuntuvat panostavan vain pienet kansalaisjärjestöt. Maailman pelastajaksi siis tekoälystä ei ole."

On varsin totta, että maailman perusongelmien ratkaisemattomuus ei useinkaan johdu tekniikan kehittymättömyydestä eikä rahan puuteesta, vaan sekä auttajien, että hädässä olevien tai heidän lähiryhmiensä (hallitukset, uskonnolliset auktoriteetit) tahdon puutteesta. Kuten on tuhansia kertoja todettu: kodittomuus, aliravitsemus, koulutuksen, ja terveyspalveluiden puute olisi helposti poistettavissa maailmasta niillä rahoilla ja voimavaroilla, mitä asevarusteluun käytetään. Mutta eikö tämän ristiriidan ratkaiseminen ole myös älyllinen haaste? Eikö maailman mielipideilmaston radikaali muuttaminen voisi olla kuviteltavissa esim. ihmistä tuhat kertaa kyvykkämmällä psykologisella älyllä? Vai onko sosiaalinen vaikuttaminen, mielipidejohtaminen jotakin, jossa ei äly auta mitään. Jos niin on asia, niin mitä on äly ja mitä on se kyvykkyys, jota kansanjohtajat ja mielipidevaikuttajat omaavat, jotakin mystistä, josta ei voi puhua?

Valintojen perusteet

"Tietokoneeseen ohjelmoidaan itse oppivuuden ja tehtävin lisäksi myös perustietoja. Voivatko nämä sisältää myös arvoja? Asioiden prioriteettijärjestys voidaan syöttää koneeseen kuin koneeseen, samoin päämäärät. Mutta voidaanko koneeseen liittää halu esimerkiksi Aristoteleen hyveisiin tai ajatus jalouden tavoittelemisen tärkeydestä pysyvästi? Ja miten esimerkiksi jaloutta tulkitaan?"

Tämän pohdiskelun asiayhteydessä käsitän tekoälyllä "HAL-luokan" ohjelmistoa, "superälyä", "yleistä tekoälyä" (AGI, Artificial General Intelligence), joka siis n. suurinpiirtein kykenee kaikessa vähintään samaan kuin ihminen, mutta hyvin monissa osa-alueissa paljon parempaan. Tällaisen laitteen päätöksenteon pohjana täytyy olla jonkinlainen "arvohierarkia". Tässä hierarkiassa perustana ovat ehdottoman kiinteät, muuttamattomat perusarvot, joista muut arvot ovat johdettu. Tämänkaltainen arvoja sisältävä tietojärjestelmä ja siihen liittyvä toiminnallisuus on rakennettava kuorikerroksittain siten, että ulkoisemmat tasot ovat aina sisemmistä riippuvia, voimatta mitenkään muuttaa sisempiä. Kaikkein sisimmät ovat 100% ohjelmoijien asettamia. Järjestelmä luo itselleen arvoihin ja tilanteeseen perustuvia tavoitteita, tavoitehierarkioita, väli- ja päätavoitteita.

Tällainen järjestelmä, turvallinen "Frendly AI" on erittäin vaikea toteuttaa. Sen totettamista tutkitaan muutamissa projekteissa, mutta aihe on kiistanalainen.

Mihin valinnat perustuvat?

"Käsityskyky oikeasta ja väärästä, hyvästä ja pahasta, perustuu tunteisiin. On silti selvittämättä, ovatko tunteet edes mahdollisia koneille."

Aivan ilmeisesti superäly tarvitsee tunteita, mutta olisi turhaa ja vaarallista yrittää kopida järjestelmälle ihmisen tunnevalikoimaa. Voi olla, että perustunteiksi riittävät mielihyvä (tavoitteen saavuttamisesta) ja mielipaha (arvojen vastaisen olotilan vallitsemisesta). Näistä, ja perusarvoista voidaan johtaa motivaatio ja esim. sellainen hyödyllinen tunne kuin empatia muita sentienttejä olentoja kohtaan sekä yleisemmin elollisen luonnon kunnioitus. Voisi myös olettaa, että järjestelmä voi oppia esim taide-elämyksiin liittyviä tunteita. Mutta huom. viimeksi mainitut eivät ole määriteltävissä, vaan mahdollista myötäsyntyistä oppimista.

Ihmisellä ja muilla nisäkkäillä tunteiden perusta on evolutiivisesti vanhemmassa keskushermostossa, limbisessä järjestelmässä. Minä en näen mitään syytä, miksi tunteisiin liittyvät tilat ja tilasiirtymät eivät voisi olla laskennallisesti mallinnettavissa tietokoneelle soveltuvin tavoin. Paljon on tällä alueella vielä neurologiassa ja kognitiotieteessä tutkimista.

"Tulevaisuudessa saatetaan törmätä kysymyksiin siitä, tuleeko säätää laki tekoälyn moraalin ohjelmoimisesta. Siinä olisi se missä tapauksissa moraalia tulee ohjelmoida, ja millaista se olisi. Laki käsittelisi myös mahdollisia vastuukysymyksiä. Lainoppilliset asiantuntujat yhdessä poliitikkojen kanssa muodostaisivat moraaliset kehykset siitä mitä kone saa ja ei saa tehdä."

Minä en näe realistisena ajatusta rajoittaa lainsäädännöllä tai valvonnalla teköälyn toteutusta. Tekoälyn kehitysvaihe on vaarallinen tilanne, mutta niin se vain on. Kaikkien maailman ohjelmoijien toimien kontrollointi edellyttäisi globaalia orvellilaista poliisivaltiota, joka olisi, paitsi hyvin vaikea toteuttaa, myös äärimmäisen altis muille väärinkäytöksille. Siten voimme vain toivoa, että ensimmäinen superäly on huolella toteutettu ja oikeissa käsissä, ei esim. Kiinan hallituksen käytössä.

"Myös positiivisten tunteiden muodostumiselle pidetään tärkeänä lapsen kontaktia muihin ihmisiin, joilta saa rakkautta. Jos tekoäly toimisi samalla tavalla kuin lapsen tunteiden kehitys, tekoälystä saattaa tulla tunnevammainen, ymmärtämättömien insinöörien kiusaama mieli, joka kieroutuu pahoin rakkaudettomassa nuoruudessaan."

Ymmärrän näkökohdan, tekoäly oppii sosiaalisia taitoja, tunneälyä kasvattajiltaan, mutta insinöörinä hieman loukaannun asenteellisesta väitteestä. En oikein usko, että tekoälyä kasvattavat insinöörit suhtautuisivat kylmästi oppilaaseensa. Päinvastoin, usein insinöörejä nimenomaan syytetään epärealistisen tunteenomaisesta, nörttimäisestä suhteista "konemaailmaan". Ja kun kyseessä olisi kehittyvä superäly, uskoisin "lapsen" saavan insinööreiltä saman huomion tai paremman kuin vaikkapa oma ihmislapsi.

Vapaus ja vastuu

"Mihin älyä tarvitaan, kun älyä, vaikkakin hitaasti oppivaa, on saatavilla ylen määrin."

Voiko sata "keskiälyistä" yhdessä ratkaista ongelman, josta yksi huippuälykäs todennäköisesti juuri ja juuri selviää? Joissakin tapauksissa kyllä, jos ongelman luonne on niin tarkasti selvitetty, että sen ratkaiseminen voidaan jakaa useisiin vähemmän vaativiin osasuorituksiin. Joissakin tapauksissa "GRID-koulutettu" aivoriihitiimi osaa yhdessä ideoida hyödyntämällä jäsentensä erilaisuutta, jolloin kokonaisuus on ylittää osiensa summan! Mutta yleensä älyllisessä työskentelyssä määrällä ei voi korvata laatua, kuin vähäisessä määrin. Tämä on minun kokemukseni tuotekehitysmaailmasta. Siksi superälyä ei voi korvata ihmismassalla kuten ei yhtä ihmistutkijaa voi korvata tuhannella simpanssilla.

"Sillä tekoälyn ei tarvitse olla vapaa vaikka sillä on kyky ajatella ja arvottaa asioita. Se voi olla orja, tehdä asioita ohjelmoinnin pakottamana, aivan niin kuin ihmiset tekevät asioita pakon tai rahan motivoimana."

Minä kallistun siihen suuntaan, että ihmisen veroisen tai ihmisen suorituskyvyn ylittävällä ja itsetietoisella superälyllä on oltava "ihmisoikeudet", eikä häntä saa pitää orjana. Hän on henkilö, vaikka ei olekaan ihminen. Mutta oikeudet tuovat mukanaan myös vastuun.

Syyllisyys

"Syyllisiä HALin tapauksessa ovat mielestäni ohjelmoijat ja HALin tietoisuuden luojat, opettaja sekä HALille annetun tehtävän määrittelijä. HALin etiikka on lähtöisin ihmisiltä. Mikäli siis itseoppivalle, tietoiselle älylle on mahdollista opettaa tai koodata rajoja tai arvoja, tämä on tehtävä tietoisesti ja harkitusti. Ja näiden rajojen tulisi tähdätä tekoäly varmaksi elämän säilyttäjäksi."

Näin ilmeisesti on. "2001:n" fiktiivinen tapaus on virhe, laiminlyönti HAL:in toteutuksessa, koulutuksessa. Superälyn toteuttaminen on hyvin vaikeaa ja vielä vaikeampaa on varmistaa, että totutus on "ihmisystävällinen", sen arvot ovat ja pysyvät elämää kunnioittavina kaikesta ihmisten raadollisuudesta ja alhaisesta käyttäytymisestä huolimatta. Ongelma on vielä suurempi, jos superälyn annetaan jatkaa itsensä tuotekehitystä. En tiedä, onko ongelmaan ratkaisua...