Lähes kaikki esitetyt arkkitehtuurit Yleisen Tekoälyn toteuttamiseksi edellyttävät symbolisen, semanttisen tiedon ja ei-symbolisen tiedon käsittelyn ja esittämisen erottamista toisistaan. Semanttisen, symbolisen tiedon esittäminen erilaisina verkkorakenteina, graafeina on luontevaa ja tehokasta perinteisiä ohjelmointitekniikoita soveltaen. Tavallisen suoritintekniikan kehittyminen multicore-, moniydinsuuntaan tuo tähän käytäntöön lisää tehoa lähivuosien kuluessa.
Semanttisesta tiedosta poiketen ei-symbolisen tiedon esittäminen ja käsittely on ongelmallisempaa. Luonteva lähestymissuunta on ollut, ja ovat edelleen "bioinspiroituneet" hermoverkkoalgoritmit, joista on laaja kokemus useiden vuosikymmenien ajalta. Mutta silloin kun tavoitteena olisi toteuttaa ihmissuorituskyvyn luokkaa olevia yleisen tekoälyn ratkaisuja, tavallinen näkemys on, että hermoverkkoalgoritmit ovat tehottomia, valtavasti suoritinkapasiteettia kuluttavia järjestelmiä. Hermoverkkoesityksessä niin tietämys kuin toiminnallisuuskin on hajantuneesti jakautuneena laajalle joukolle laskenta- ja muistiyksiköitä: neurooneja. Tämä esitapa edellyttää luonnostaan rinnakkaisuutta ja sen tarvitseman suuren yhteyslinkkimäärän ylläpito ohjemallisesti on hyvin raskasta.
Esitän ratkaisuksi laitteistotasolla toimivaa (vastakohtana ohjelmalliselle toteutukselle) kiihdytintä, jossa neuronien ja niiden ryhmien väliset yhteydet korvataan ohjelmistotoiminnallisuutta edullisemmilla, pääosin kiinteillä HW-ratkaisuilla.
Neurologian kehittyessä on ilmeisen ratkaisevaksi toiminnalliseksi yksiköksi paljastunut aivokuoren "cortical column", jonka monimutkaisuus on suuruusluokkaa 10000 neuronia. Oleellista on, että näyttää siltä, että ihmisaivojen muutama miljoonaa "kolumnia" (muutama 10 miljardia neuroonia) sisältävät kaikki suunnilleen saman perustoiminnallisuuden, joka yksilöllisesti ohjelmoituu, hienosäätyy yksilön kehityksen ja oppimisen seurauksena. Tämän toiminnallisuuden täyden tietellisen ymmärryksen saavuttaminen on vielä kesken, mutta jo nyt tekoälypiireissä on laaja kiinnostus soveltaa tämänhetkisiä, hyvin uskottavia teorioita aivokuoren ja kolumnien funktionaalisuudesta. Minulle tutuimpia tapauksia ovat Jeff Hawkinsin HTM ja Harri Valpolan vastaava ZenRobotics-arkkitehtuuri. Molemmissa kolumneja vastaavat yksiköt toimivat hierarkioina.
Esitän kolumnin funktionaalisuudeksi (hyvin yksinkertaistetusti) kykyä havaita sekä staattisia, että sekventiaalisia hahmoja antureilta tai toisista kolumneista saapuvista tuloistaan ja sen mukaan välittää havaitun staattisen tai temporaalisen hahmon koodi hierarkiassa ylöspäin. Muita funktionaalisuuksia on esim. poikkeavuuksien havaitseminen ja raportointi hierarkiassa sekä ylös- että alaspäin, samoin kuin sekvenssien jatkumistavan ennustaminen. Tämä oli siis hyvin karkea yksinkertaistus, ei mitenkään tyhjentävä kuvaus kolumneista.
Minun nyt esittämini ratkaisumalli ei-symbolisen konemielen tehokkaaksi toteuttamiseksi on luoda HW-kiihdytin, joka:
1. Toteuttaa yhden kolumnin abstraktin toiminnallisuuden HW-tasolla, laajaan sisäistä rinnakkaisuutta hyödyntäen. Toteutuksen ei tarvitse olla erityisen "biouskollinen".
2. Sisältää muistirakenteet esim tuhannen kolumnin yksilölliselle tietosisällölle, muuttujille.
3. Kykenee esim. suorittamaan yhden diskreetin (ulkomaailman suhteen) toiminnallisen kierroksen 1us:n aikana, vaihtaen sitten kolumniyksilön datalohkoja. Siten kaikkien tuhannen kolumnin tila voidaan päivittää 1ms:n välein (tai ehkä nopeamminkin), vastaten ihmisen aivokuoren suorituskykyä. Yhden kierroksen tulokset, kolumnien lähdöt, puskuroidaan muiden kolumnien tuloihin, datarakenteisiin, ja otetaan kaikki kerralla, synkronisesti käyttöön 1ms:n jaksoissa.
Piirikokonaisuus sisältäisi kymmeniä tuhansia laskureita, tilakoneita, aritmeettisloogisia yksiköitä ja erillismuisteja. Viimeksimainittujen ylimmät 10 osoitebittiä olisivat multipleksattuja kulloinkin valittuna olevan, yhden tuhannesta kolumnin koodin mukaan. Täten "kontekstinvaihto" sujuisi noin yhdessä kellojaksossa. Jos logiikan kellotaajuus olisi 1GHz, kolumnin tilan päivittämiseen jäisi 1000 kellojaksoa, joiden kuvittelisin rinnakkaisuuden ansiosta riittävän varsin hyvin.
Näitä tuhannen kolumnin emulaattoreita voidaan integroida teknologiasta riippuva määrä yhdelle piipalalle, esim kymmeniä, satoja tai tuhansia ja yhdistää kolumnien välisesti sarjaväyläkommunikaatiota käyttäen, rinnakkaisena HW-toteutuksena.
Esittämäni toteutustapa olisi tuhansia kertoja tehokkaampi kuin mikään ohjelmallinen toteutus mielivaltaisen tehokkaalla moniydinsuorittimilla. Jos yhdellä piipalalla olisi esim 1000 kolumniemulaattoria (jotka siis yhdessä emuloisivat miljoonaa kolumnia), ne vastaisivat 10 miljardia neuroonia. Tällainen piiri voisi olla toteutettavissa vaikkapa 15v kuluttua. Kymmenen emulaatorin piiri voisi olla todellisuutta hyvinkin pian ja sovellettavissa älykkäissä roboteissa.
Esitän yllä kuvatun lähestymistavan mm. siksi, että siten torjun, vaikeutan asiaa koskevia, turhia kehitystä hidastavia patentteja. Nythän tässä kuvattu ajatus on julkinen ja sellaisenaan patentoimiskelvoton, kun se esitetään blogissani (ellei vastaavaa jo ole patentoitu aikaisemmin). Tiedän, että aihepiiriin liittyviä muita patentteja on olemassa.
sunnuntai 17. lokakuuta 2010
lauantai 16. lokakuuta 2010
Hieno robottikilpailu
"The Semantic Robot Vision Challenge" on kilpailu, jossa lyhyesti selostettuna kilpailevat robotit saavat tekstimuotoisen luettelon fyysisistä esineistä. Sen jälkeen roboteilla on nettiyhteys käytössään, jota käyttäen niiden tulee etsiä netistä kuvia esineistä, yleistää, generalisoida kunkin esinetyypin oleellisin ja mallintaa tiedot jatkokäyttöön. Sitten nettiyhteys katkaistaan ja robotti pääsee huoneeseen, jossa esineet löytyvät, isot esineet lattialla, pienemmät huonekalujen päällä. Robotin tehtävänä on navigoida huoneessa ja tunnistaa esineet. Näyttää siltä, että neljät vuotuiset kilpailut on jo takana, ja tehtävät tietysti vaikeentuvat vuosittain. Haasteena on suunnitelmallinen navigointi huoneessa, konenäkö, semanttinen ymmärrys ja eteenkin mallin rakentaminen surffauslöydösten pohjalta. Haastavaa! Ja vie varmasti esim. kotirobottien tuotekehitystä eteenpäin.
torstai 16. syyskuuta 2010
Demokratiaviikon ajatuksia
Menossa on Demokratiajuhlaviikko. Suomen YK-liiton sivuilla
todetaan, että "toimiva demokratia on ennakkoedellytys sosiaalisesti oikeudenmukaiselle ja kestävälle kehitykselle". "Sosiaalinen oikeudenmukaisuus", "kestävä kehitys" - kyllä, ehkä nämä ovat tärkeimpiä syitä demokraattisten menettelytapojen toteuttamiseen. Valtio ilman demokratiaa ei useimmiten ole kansalaisten kesken sosiaalisesti oikeudenmukainen eikä sen kehitys ole pitkällä aikavälillä kestävällä pohjalla. Tästä voimme yksinkertaisesti päätellä, että esim. Kiinalla on isoja vaikeuksia edessään. Kiinasta ei voi tulla maailman mahtavinta valtiota niinkuin sen johtajat uskovat.
Miksi toimivan valtion hallinto pitää perustua demokratiaan? Syynä on teknisten tieteiden erittäin hyvin tuntema takaisinkytkentäperiaate. Takaisinkytkentää, feedback, sovelletaan yksinkertaisimmillaan esim. termostaattien toiminnassa. Voidaan ajatella, että jostakin saadaan tietää, esim kokeilemalla, millä teholla jotakin tilaa on lämmitettävä, ja sitten tämä tieto riittää, tarkistusmittauksia ei enään tarvita. Tämä on "feed forward -säätöä", "eteenpäinkytkentää". Tätä esim Kiinan hallitus harrastaa. He tietävät mitä kansa tarvitsee: kansalta ei tarvitse kysyä mitään, kansalaisten mielenilmaisut voidaan vaikka kriminalisoida. Tekniikan osaajat tietävät, että hiukankin monimutkaisempi järjestelmä toimii aina huonosti pelkän feed forward -säädön varassa. Eiköhän yli miljardin kansalaisen jättiläisvaltio ole hyvin monimutkainen järjestelmä.
Toimiva demokratia kierrättää hallinnolle palautteen valtakunnan tilasta, hallinnollisten toimenpiteiden, lainsäädännön ja tavoitteidenasettelun laadusta. Mutta, tekniikan ammattilaiset tietävät, että toimiakseen on takaisinkytkentäsilmukan oltava tiivis, ajallisesti nopea! Onko kerran neljässä vuodessa tapahtuva eduskuntavaali tällainen toimiva säätösilmukka. Se toimii, jotenkuten, mutta tuskin optimaalisesti.
Maailmassa on valtioita, jotka eksplisiittisesti torjuvat demokratian. Näitä ovat esim. Pohjois-Korea, Kiina ja Burma. Sitten on valtioita, joissa demokratia on näennäistä, pelkkää teatteria, aito takaisinkytkentä on katkaistu, esim. eliminoimalla opposition toiminta. Näitä valtiota ovat esim. kutakuinkin kaikki muslimivaltiot (joista jotkut kuuluvat ensimmäiseen ryhmään) ja Venäjä. Jäljelle jää valtioita, joissa aidosti yritetään toteuttaa demokraattisia periaatteita, mutta joissa kaikissa toteutus on enemmän tai vähemmän puutteellista. Näiden tapausten joukkoon kuuluvat esim Intia, USA, Ruotsi ja Suomi.
Demokratian toimivuuteen vaikuttaa oleellisen vapaan tiedonvälityksen lisäksi myös kansan koulutus- ja sivistystaso. Maassa, jossa lukutaito ei ole itsestäänselvyys, esim Intiassa (ja jopa USA:ssa!), demokratia voi toimia vain puuttellisesti. Puutteellisilla perustiedoilla varustettuja kansalaisia on helppo johtaa harhaan.
Demokratia assosioidaan väärin tasavalta-periaatteen kanssa. Toimiva demokratia ei edellytä yhtäläisiä valtaoikeuksia, eikä edes toimi parhaiten tasavalta-periaatteen vallitessa. Lisäksi tasavalta-periaate on aina harhaa: todellisuudessa edustuksellinen demokratia pudottaa siltä kuitenkin perustan. Hallitsevalla eliitillä on paljon enemmän valtaa, kuin tasavalta-periaate edellyttäisi. Miksi siis ei voitaisi ottaa lusikkaa kauniisen käteen, myöntää tilanne, ja toteuttaa toimivampi takaisinkytkentä tuomalla demokratiaan "meritokratiaa", antamalla enemmän valtaa kansalaisille, joilla on näyttö paremmasta ymmärryksestä? Näyttö voitaisiin toteuttaa esim. kaikille avoimena kaksi- tai kolmivaiheisena tutkintona, joka antaisi lisää äänivaltaa vaaleissa. Olen aivan varma, että takaisinkytkentä parantuisi ilman, että esim. yhteiskunnallinen oikeudenmukaisuus vaarantuisi. Samoin tutkinto motivoisi useimpia parempaan yhteiskunnallisten asioiden seurantaan. Vai voisiko olla, että tämä olisi nykyisen valtaeliitin mielestä liian vaarallista?
Toinen korjattava piirre demokratiassa on edellä mainittu säätösilmukan nopeus. Esim. antamalla äänivaltaisille (ymmärtäväisille ja vastuullisille) kansalaisille mahdollisuus muuttaa ääniään kesken vaalikauden, saataisiin silmukkaan ratkaisevasti nopeutta ja säätöä, demokratiaa merkittävästi parannettua. Tietoteknisillä toteutuksilla tähän varmasti päästäisiin kohtuullisella vaivalla.
Voisiko Suomi tavoitella "rauhanturvaamisen suurvallan" aseman lisäksi "demokratian mallimaan" statusta?
todetaan, että "toimiva demokratia on ennakkoedellytys sosiaalisesti oikeudenmukaiselle ja kestävälle kehitykselle". "Sosiaalinen oikeudenmukaisuus", "kestävä kehitys" - kyllä, ehkä nämä ovat tärkeimpiä syitä demokraattisten menettelytapojen toteuttamiseen. Valtio ilman demokratiaa ei useimmiten ole kansalaisten kesken sosiaalisesti oikeudenmukainen eikä sen kehitys ole pitkällä aikavälillä kestävällä pohjalla. Tästä voimme yksinkertaisesti päätellä, että esim. Kiinalla on isoja vaikeuksia edessään. Kiinasta ei voi tulla maailman mahtavinta valtiota niinkuin sen johtajat uskovat.
Miksi toimivan valtion hallinto pitää perustua demokratiaan? Syynä on teknisten tieteiden erittäin hyvin tuntema takaisinkytkentäperiaate. Takaisinkytkentää, feedback, sovelletaan yksinkertaisimmillaan esim. termostaattien toiminnassa. Voidaan ajatella, että jostakin saadaan tietää, esim kokeilemalla, millä teholla jotakin tilaa on lämmitettävä, ja sitten tämä tieto riittää, tarkistusmittauksia ei enään tarvita. Tämä on "feed forward -säätöä", "eteenpäinkytkentää". Tätä esim Kiinan hallitus harrastaa. He tietävät mitä kansa tarvitsee: kansalta ei tarvitse kysyä mitään, kansalaisten mielenilmaisut voidaan vaikka kriminalisoida. Tekniikan osaajat tietävät, että hiukankin monimutkaisempi järjestelmä toimii aina huonosti pelkän feed forward -säädön varassa. Eiköhän yli miljardin kansalaisen jättiläisvaltio ole hyvin monimutkainen järjestelmä.
Toimiva demokratia kierrättää hallinnolle palautteen valtakunnan tilasta, hallinnollisten toimenpiteiden, lainsäädännön ja tavoitteidenasettelun laadusta. Mutta, tekniikan ammattilaiset tietävät, että toimiakseen on takaisinkytkentäsilmukan oltava tiivis, ajallisesti nopea! Onko kerran neljässä vuodessa tapahtuva eduskuntavaali tällainen toimiva säätösilmukka. Se toimii, jotenkuten, mutta tuskin optimaalisesti.
Maailmassa on valtioita, jotka eksplisiittisesti torjuvat demokratian. Näitä ovat esim. Pohjois-Korea, Kiina ja Burma. Sitten on valtioita, joissa demokratia on näennäistä, pelkkää teatteria, aito takaisinkytkentä on katkaistu, esim. eliminoimalla opposition toiminta. Näitä valtiota ovat esim. kutakuinkin kaikki muslimivaltiot (joista jotkut kuuluvat ensimmäiseen ryhmään) ja Venäjä. Jäljelle jää valtioita, joissa aidosti yritetään toteuttaa demokraattisia periaatteita, mutta joissa kaikissa toteutus on enemmän tai vähemmän puutteellista. Näiden tapausten joukkoon kuuluvat esim Intia, USA, Ruotsi ja Suomi.
Demokratian toimivuuteen vaikuttaa oleellisen vapaan tiedonvälityksen lisäksi myös kansan koulutus- ja sivistystaso. Maassa, jossa lukutaito ei ole itsestäänselvyys, esim Intiassa (ja jopa USA:ssa!), demokratia voi toimia vain puuttellisesti. Puutteellisilla perustiedoilla varustettuja kansalaisia on helppo johtaa harhaan.
Demokratia assosioidaan väärin tasavalta-periaatteen kanssa. Toimiva demokratia ei edellytä yhtäläisiä valtaoikeuksia, eikä edes toimi parhaiten tasavalta-periaatteen vallitessa. Lisäksi tasavalta-periaate on aina harhaa: todellisuudessa edustuksellinen demokratia pudottaa siltä kuitenkin perustan. Hallitsevalla eliitillä on paljon enemmän valtaa, kuin tasavalta-periaate edellyttäisi. Miksi siis ei voitaisi ottaa lusikkaa kauniisen käteen, myöntää tilanne, ja toteuttaa toimivampi takaisinkytkentä tuomalla demokratiaan "meritokratiaa", antamalla enemmän valtaa kansalaisille, joilla on näyttö paremmasta ymmärryksestä? Näyttö voitaisiin toteuttaa esim. kaikille avoimena kaksi- tai kolmivaiheisena tutkintona, joka antaisi lisää äänivaltaa vaaleissa. Olen aivan varma, että takaisinkytkentä parantuisi ilman, että esim. yhteiskunnallinen oikeudenmukaisuus vaarantuisi. Samoin tutkinto motivoisi useimpia parempaan yhteiskunnallisten asioiden seurantaan. Vai voisiko olla, että tämä olisi nykyisen valtaeliitin mielestä liian vaarallista?
Toinen korjattava piirre demokratiassa on edellä mainittu säätösilmukan nopeus. Esim. antamalla äänivaltaisille (ymmärtäväisille ja vastuullisille) kansalaisille mahdollisuus muuttaa ääniään kesken vaalikauden, saataisiin silmukkaan ratkaisevasti nopeutta ja säätöä, demokratiaa merkittävästi parannettua. Tietoteknisillä toteutuksilla tähän varmasti päästäisiin kohtuullisella vaivalla.
Voisiko Suomi tavoitella "rauhanturvaamisen suurvallan" aseman lisäksi "demokratian mallimaan" statusta?
tiistai 31. elokuuta 2010
Suomalaiset kognitiivisten robottiaivojen arkkitehtuurit v. 2010
STeP 2010-tapahtumassa (Suomen Tekoälyseuran konferenssi) kaksi mielenkiintoisinta esiintyjää olivat professorit Harri Valpola ja Pentti Haikonen. Molemmat esittelivät omia versioitaan kognitiivisten robottien arkkitehtuureiksi. Eroa näissä on keskenään hyvin paljon. Haikonen tosin keskittyi demoamaan välituloksia, hänen protorobossaan on jo henkeä.
http://www.youtube.com/user/PenHaiko
Yhteistä Valpolan (Aalto Yliopisto ja ZenRobotics Ltd) ja Haikosen (University of Illinois at Springfield) näkemyksille on lähinnä ainoastaan se, että molemmat katsovat oman arkkitehtuurinsa rakentuvan biologisista järjestelmistä omaksutuille perusteille, muuten ne sitten ovatkin hyvin erilaisia. Haikosen arkkitehtuuri esitellään hänen kirjassaan: "Robot Brains, Circuits and Systems for Conscious Machines" (2007). Valpola kertoi esityksessään, että paras kuvaus hänen työryhmänsä arkkitehtuurista on Antti Yli-Krekolan diplomityössä:
http://www.lce.hut.fi/~aylikrek/AnttiYKdippa.pdf
Haikonen korostaa, että "maailman suora kokeminen" edellyttää "suoria HW-ratkaisuja": "The requirements for the direct perception of the world and the seamless integration would seem to call for special way of perception and information representation. Here the traditional way of information representation of the artificial intelligence , the representation of information as statements of formal language is rejected. Instead associative nonnumeric neural networks, distributed representations and cognitive architectures are investigated as the solution".
Haikonen esittelee kirjassaan melko yksityiskohtaisia piiriratkaisuja arkkitehtuurinsa neuroverkkojen perustaksi, mutta toistaiseksi minulle on jäänyt hieman hämäräksi arkkitehtuurin toiminnallinen "big picture". Koitan sulatella lisää..
Valpola (ja Yli-Krekola) sen sijaan liikkuu minulle tutummilla aivojen neokorteksin hierarkiseen rakenteeseen perustuvassa toiminnallisuudessa. Joutuu todella keskittymään yrittäessään erottaa Valpola-Yli-Krekola- arkkitehtuurin Jeff Hawkinsin HTM-arkkitehtuurista, niin samanlaisia nämä ovat. Kun tietää, että molemmat, ZenRobotics ja Numenta tähtäävät kaupallisiin sovelluksiin niin patenttisota voi olla edessä..
Sekä HTM, että Valpolan arkkitehtuuri perustuvat hierarkiaan ja aistidatan jalostumiseen hierarkiassa kerros-kerrokselta yhä korkeammiksi abstraktiotasoiksi, lopulta semanttisiksi mielikuviksi (tuo loppu oli minun ilmaisuani). Molemmat käyttävät kilpailevaa tunnistamista, ja hierarkiassa ylhäältä alas vastavirtaan kulkevia, asiayhteyden mukaisia, tunnistamista helpottavia arvauksia. Se missä minä näen eron, on että Hawkins korostaa hahmojen sekvenssiluonnetta (kyllä Yli-Krekolakin asian mainitsee, ikäänkuin ohimennen) ja Yli-Krekola korostaa keskittynyttä, valikoivaa, emergenttiä tarkkaavaisuutta (attention) sekä tarkaavaisuuden ja oppimisen yhteyttä, jatkuvaa oppimista.
Yksityiskohtaisessa toteutuksessa (jotka ovat firmojen suljettua tietoa) molemmat aivojen kuorikerroksen toiminnallisuutta mukailevat järjestelmät eroavat varmasti toisistaan ja ulkoiselle uteliaalle käytettävissä olevien tietojen pohjalta ei liene mahdollista tehdä tarkkaa erittelyä järjestelmien todellisista eroista. Numentalla on kuulemma asiakkuuksia sotilaallisten tiedustelusateliittien hahmontunnistuksissa ja ZenRobotics tavoittelee sekajätteiden liukuhihnalajittelusovelluksia, joissa jono robotteja poimii nopeasti etenevältä hihnalta erityyppisiä jäteklimppejä konenäön avulla. Ehkä erilaiset sovellusalueet estävät turhat patenttiriidat, näin toivon.
Haikosen kokeilut näen akateemisena perustutkimuksena, joiden löydöt ja ideat jäävät muiden hyödynnettäviksi. Minä yritän vielä syventyä sekä Haikosen että Valpolan ajatusmaailmoihin, muitakaan tahoja unohtamatta. Kognitiivinen taso, joka linkittää aistitiedon semanttiseen tasoon, suorittaa semanttisen ymmärryksen maadoittamisen, on erittäin todennäköisesti useimmiten (eteenkin konenäössä) järkevintä toteuttaa aivojen kuorikerrosta mukailevalla hierarkisten modulitasojen rakenteena. Tästä on tuskin kellään vakavasti otettavaa eriävää mielipidettä.
On hienoa, että suomalainen robotiikkatutkimus on mukana aivan alan tärkeimpien kysymysten ratkaisemisessa!
http://www.youtube.com/user/PenHaiko
Yhteistä Valpolan (Aalto Yliopisto ja ZenRobotics Ltd) ja Haikosen (University of Illinois at Springfield) näkemyksille on lähinnä ainoastaan se, että molemmat katsovat oman arkkitehtuurinsa rakentuvan biologisista järjestelmistä omaksutuille perusteille, muuten ne sitten ovatkin hyvin erilaisia. Haikosen arkkitehtuuri esitellään hänen kirjassaan: "Robot Brains, Circuits and Systems for Conscious Machines" (2007). Valpola kertoi esityksessään, että paras kuvaus hänen työryhmänsä arkkitehtuurista on Antti Yli-Krekolan diplomityössä:
http://www.lce.hut.fi/~aylikrek/AnttiYKdippa.pdf
Haikonen korostaa, että "maailman suora kokeminen" edellyttää "suoria HW-ratkaisuja": "The requirements for the direct perception of the world and the seamless integration would seem to call for special way of perception and information representation. Here the traditional way of information representation of the artificial intelligence , the representation of information as statements of formal language is rejected. Instead associative nonnumeric neural networks, distributed representations and cognitive architectures are investigated as the solution".
Haikonen esittelee kirjassaan melko yksityiskohtaisia piiriratkaisuja arkkitehtuurinsa neuroverkkojen perustaksi, mutta toistaiseksi minulle on jäänyt hieman hämäräksi arkkitehtuurin toiminnallinen "big picture". Koitan sulatella lisää..
Valpola (ja Yli-Krekola) sen sijaan liikkuu minulle tutummilla aivojen neokorteksin hierarkiseen rakenteeseen perustuvassa toiminnallisuudessa. Joutuu todella keskittymään yrittäessään erottaa Valpola-Yli-Krekola- arkkitehtuurin Jeff Hawkinsin HTM-arkkitehtuurista, niin samanlaisia nämä ovat. Kun tietää, että molemmat, ZenRobotics ja Numenta tähtäävät kaupallisiin sovelluksiin niin patenttisota voi olla edessä..
Sekä HTM, että Valpolan arkkitehtuuri perustuvat hierarkiaan ja aistidatan jalostumiseen hierarkiassa kerros-kerrokselta yhä korkeammiksi abstraktiotasoiksi, lopulta semanttisiksi mielikuviksi (tuo loppu oli minun ilmaisuani). Molemmat käyttävät kilpailevaa tunnistamista, ja hierarkiassa ylhäältä alas vastavirtaan kulkevia, asiayhteyden mukaisia, tunnistamista helpottavia arvauksia. Se missä minä näen eron, on että Hawkins korostaa hahmojen sekvenssiluonnetta (kyllä Yli-Krekolakin asian mainitsee, ikäänkuin ohimennen) ja Yli-Krekola korostaa keskittynyttä, valikoivaa, emergenttiä tarkkaavaisuutta (attention) sekä tarkaavaisuuden ja oppimisen yhteyttä, jatkuvaa oppimista.
Yksityiskohtaisessa toteutuksessa (jotka ovat firmojen suljettua tietoa) molemmat aivojen kuorikerroksen toiminnallisuutta mukailevat järjestelmät eroavat varmasti toisistaan ja ulkoiselle uteliaalle käytettävissä olevien tietojen pohjalta ei liene mahdollista tehdä tarkkaa erittelyä järjestelmien todellisista eroista. Numentalla on kuulemma asiakkuuksia sotilaallisten tiedustelusateliittien hahmontunnistuksissa ja ZenRobotics tavoittelee sekajätteiden liukuhihnalajittelusovelluksia, joissa jono robotteja poimii nopeasti etenevältä hihnalta erityyppisiä jäteklimppejä konenäön avulla. Ehkä erilaiset sovellusalueet estävät turhat patenttiriidat, näin toivon.
Haikosen kokeilut näen akateemisena perustutkimuksena, joiden löydöt ja ideat jäävät muiden hyödynnettäviksi. Minä yritän vielä syventyä sekä Haikosen että Valpolan ajatusmaailmoihin, muitakaan tahoja unohtamatta. Kognitiivinen taso, joka linkittää aistitiedon semanttiseen tasoon, suorittaa semanttisen ymmärryksen maadoittamisen, on erittäin todennäköisesti useimmiten (eteenkin konenäössä) järkevintä toteuttaa aivojen kuorikerrosta mukailevalla hierarkisten modulitasojen rakenteena. Tästä on tuskin kellään vakavasti otettavaa eriävää mielipidettä.
On hienoa, että suomalainen robotiikkatutkimus on mukana aivan alan tärkeimpien kysymysten ratkaisemisessa!
maanantai 23. elokuuta 2010
Kuuluuko asiaton vihamielisyys tieteeseen?
"There he goes again, making up nonsense and making ridiculous claims that have no relationship to reality. Ray Kurzweil must be able to spin out a good line of bafflegab, because he seems to have the tech media convinced that he's a genius, when he's actually just another Deepak Chopra for the computer science cognoscenti."
Prof. PZ Myers haukkuu blogissaan
http://scienceblogs.com/pharyngula/2010/08/ray_kurzweil_does_not_understa.php
Ray Kurzweilia ja minun ymmärtääkseni Myers teeskentelee olemalla ymmärtämättä Kurzweilin perusteita. Myers väittää:
"Here's how that math works, Kurzweil explains: The design of the brain is in the genome. The human genome has three billion base pairs or six billion bits, which is about 800 million bytes before compression, he says. Eliminating redundancies and applying loss-less compression, that information can be compressed into about 50 million bytes, according to Kurzweil.
About half of that is the brain, which comes down to 25 million bytes, or a million lines of code."
Tämä oli siis Kurzweilin melko selkeästi esitetty väite. Minä ymmärsin sen, vaikka en olekaan PhD. Mutta Myers on käsittävinään sen väärin:
"See that sentence I put in red up there? That's his fundamental premise, and it is utterly false. Kurzweil knows nothing about how the brain works. It's design is not encoded in the genome: what's in the genome is a collection of molecular tools wrapped up in bits of conditional logic, the regulatory part of the genome, that makes cells responsive to interactions with a complex environment."
Ei Kurzweil väittänyt, että genomi sisältää valmiiden aivojen täyden, yksityiskohtaisen suunnitelman. Tottakai hän tietää, että valmiiden aivojen 100 miljardia neoronia ja niiden väliset yhteydet, ym, eivät ole kuvattavissa genomin alle miljardilla tavulla. Olisi naurettavaa edes olettaa Kurzweilin menevän näin halpaan. Olen aika varma, että myös Myers sen tajuaa. Mutta jostakin syystä hän haluaa nolata, vaikka valheella, olkinuken rakentamalla Kurzweilin tai ehkä nimenomaan Kurzweilin mission. Miksi? Uskonnollisen vakaumuksensa vuoksi?
Se mitä Kurzweil todella väittää, on että genomissa on kaikki sen "tiedollinen siemen", minkä aivot tarvitsevat voidakseen sisäisen ja ulkoisen vuorovaikutuksensa, oppimisensa kautta kehittyäkseen aikuisen ihmisen aivoiksi, joiden todellista teoreettista informaatiosisältöä Kurzweil on useasti haarukoinut kirjoissaan. Rinnastaessaan genomin ja tavoitellun tietokonekoodin rivimäärän koon, 25MB, Kurzweil käyttää epäsuorasti algoritmisen informaatioteorian Kolmogrov-monimutkaisuuden käsitettä. Uskon, että neurologina Myers kyllä tuntee asian. Kurzweil siis toteaa että miljoonalla ohjelmarivillä olisi teoreettisesti mahdollista kuvata mekanismi, jonka voi ympäristön avulla opettaa ihmisenkaltaiseksi älyksi. Myers ei edes yritä keskustella tästä, vaan vie hänelle ilmeisen vastenmielisen aiheen aidon poliitikon tapaan hakoteille: rakentaa olkinuken, jonka vahingoniloisesti polttaa.
Kuuluuko tällainen asenne tieteeseen?
lauantai 21. elokuuta 2010
Kuka äänestää Piraattipuoluetta?
Suomen Piraattipuolue on ensi kertaa mukana seuraavissa vaaleissa. Noin yleisesti ottaen, sarkastisesta nimestään huolimatta se ajaa pääasiassa hyviä asioita. Kolme pääteemaa ovat sananvapaus, tekijänoikeudet ja niiden erikoisalueena patenttijärjestelmä.
1. "Oikeus yksityisyyteen." "Kansalaisten säännönmukainen, laajamittainen valvonta johtaa vääjäämättä väärinkäytöksiin."
"Viestintäsalaisuuden tason eli viestinnän luottamuksellisuuden, yksityisyyden ja nimettömyyden takeiden tulee olla samoja sähköisessä ja muussa viestinnässä. "
"On vastustettava voimakkaasti pyrkimyksiä rajoittaa sananvapautta yhteiskunnassa. Valtioiden harjoittama internetin sensurointi pitää lopettaa. Teleyritysten ei tule rajoittaa verkon käyttöä. Palveluntarjoajia ei pidä asettaa vastuuseen palvelun käyttäjien tekemisistä."
2. "Nykyinen tekijänoikeusjärjestelmä ei suojaa luovien taiteilijoiden toimeentuloa. Tekijänoikeudet haittaavat myös tieteellisen kirjallisuuden ja tutkimustulosten leviämistä. Tekijänoikeuden aiheuttamiin haittoihin on puututtava. Tietoyhteiskunta ei kehity tietoa panttaamalla."
"Kulttuurin arvo kasvaa jaettaessa, jolloin kasvavat myös taiteilijan mahdollisuudet ansaita kulttuuria tuottamalla."
"Tiedostonjakamista ei tule rajoittaa, eikä siitä pidä rangaista, vaan siihen tulee kannustaa. Piraattipuolue vastustaa laajakaistaveroa ja haluaa lakkauttaa kasettimaksut."
"Kenenkään luovan taiteilijan ei tarvitse ansaita rahaa luomuksellaan seitsemänkymmentä vuotta kuolemansa jälkeen."
"Kaupallisen kopioinnin ja käytön tekijänoikeussuoja lyhennettävä 5–10 vuoteen hyödykkeen julkaisusta."
"Kaiken teosten epäkaupallisen kopioinnin, levittämisen ja muun käytön on oltava vapaata teoksen luomishetkestä lähtien."
3. "Nykyisen patenttijärjestelmän yhteiskunnalle aiheuttamille taloudellisille ja juridisille rasitteille ei ole perusteita kehittyvässä markkinataloudessa. Patentit eivät nykypäivänä juurikaan suojaa yksittäisen keksijäneron keksintöä. Patentteja käytetään ennemminkin pienyrittäjien toiminnan tukahduttamiseen."
"Ohjelmistopatentit ajavat ainoastaan patenttilakimiesten ja suuryritysten etua."
Olen n. 90% puolueen ohjelman sisällön kannattaja. Ei, en kannata tekijänoikeuksien alaisten tuotteiden järjestelmällistä kopiointia. Mutta ehdottomasti vastustan yksityisten kansalaisten keskinäisen tietoliikenteen sisältöön puuttumista mistään muista syistä kuin vakavista rikoksista (terrorismi, väkivalta, kiristykset, vakavat talousrikokset) epäiltäessä. Tekijänoikeuksien alaisten teosten siirto ei kuulu tähän ryhmään, paitsi ehkä, jos se tapahtuu ansaitsemistarkoituksessa.
Puolueen ohjelman vakava puute on se, että puolue ei esitä konkreettisiä ratkaisuja aineettomien teosten tekijöiden taloudellisten oikeuksien turvaamiseksi, vaan tyytyy vähättelemään ongelmaa.
Mutta samaa mieltä olen esim. tekijänoikeuksien järjettömän pitkistä kestoista ja patenttijärjestelmän mädännäisyydesta.
Kuitenkin puolueen hölmöin ratkaisu, joka vesittää kaiken: puolue jättäytyy tietoisesti "yhdenasianliikkeeksi", eli jättää ehdokkailleen vapaat mielipiteet yli 99% eduskuntatyöstä, siis kaikkeen puolueohjelman ulkopuolisiin asioihin. Puolue siis etsii äänestäjikseen ihmisiä, joille muu yhteiskunnan asioiden hoitaminen on yhdentekevää. Tällaisia minun näkökulmani mukaan löytyy vain niistä, jotka ilman piraattipuoluetta jättäisivät äänestämättä. Heitä voi olla, mutta onko tarpeeksi? Vaikka kannatan puolueen ajamia tavoitteita, en voi äänestää sen ehdokkaita.
Jotta joku puolue voitaisiin ottaa vakavasti, sillä täytyy olla ideologia: ajatusrakennelma, joka johtaa kaikki tavoitteet yleisistä, julkisista perusarvoista ja jolla on looginen teoria arvojen toteuttamiseksi. Totta, useimmilla puolueilla ei ole selvää ideologiaa. Minusta tuntuu, että Suomessa sellainen on vain Kokoomuksella ja Vihreillä. Muut ovat enemmän tai vähemmän vain valtaa tavoittelevia eturyhmäpuolueita tai yhdenasianliikeitä.
1. "Oikeus yksityisyyteen." "Kansalaisten säännönmukainen, laajamittainen valvonta johtaa vääjäämättä väärinkäytöksiin."
"Viestintäsalaisuuden tason eli viestinnän luottamuksellisuuden, yksityisyyden ja nimettömyyden takeiden tulee olla samoja sähköisessä ja muussa viestinnässä. "
"On vastustettava voimakkaasti pyrkimyksiä rajoittaa sananvapautta yhteiskunnassa. Valtioiden harjoittama internetin sensurointi pitää lopettaa. Teleyritysten ei tule rajoittaa verkon käyttöä. Palveluntarjoajia ei pidä asettaa vastuuseen palvelun käyttäjien tekemisistä."
2. "Nykyinen tekijänoikeusjärjestelmä ei suojaa luovien taiteilijoiden toimeentuloa. Tekijänoikeudet haittaavat myös tieteellisen kirjallisuuden ja tutkimustulosten leviämistä. Tekijänoikeuden aiheuttamiin haittoihin on puututtava. Tietoyhteiskunta ei kehity tietoa panttaamalla."
"Kulttuurin arvo kasvaa jaettaessa, jolloin kasvavat myös taiteilijan mahdollisuudet ansaita kulttuuria tuottamalla."
"Tiedostonjakamista ei tule rajoittaa, eikä siitä pidä rangaista, vaan siihen tulee kannustaa. Piraattipuolue vastustaa laajakaistaveroa ja haluaa lakkauttaa kasettimaksut."
"Kenenkään luovan taiteilijan ei tarvitse ansaita rahaa luomuksellaan seitsemänkymmentä vuotta kuolemansa jälkeen."
"Kaupallisen kopioinnin ja käytön tekijänoikeussuoja lyhennettävä 5–10 vuoteen hyödykkeen julkaisusta."
"Kaiken teosten epäkaupallisen kopioinnin, levittämisen ja muun käytön on oltava vapaata teoksen luomishetkestä lähtien."
3. "Nykyisen patenttijärjestelmän yhteiskunnalle aiheuttamille taloudellisille ja juridisille rasitteille ei ole perusteita kehittyvässä markkinataloudessa. Patentit eivät nykypäivänä juurikaan suojaa yksittäisen keksijäneron keksintöä. Patentteja käytetään ennemminkin pienyrittäjien toiminnan tukahduttamiseen."
"Ohjelmistopatentit ajavat ainoastaan patenttilakimiesten ja suuryritysten etua."
Olen n. 90% puolueen ohjelman sisällön kannattaja. Ei, en kannata tekijänoikeuksien alaisten tuotteiden järjestelmällistä kopiointia. Mutta ehdottomasti vastustan yksityisten kansalaisten keskinäisen tietoliikenteen sisältöön puuttumista mistään muista syistä kuin vakavista rikoksista (terrorismi, väkivalta, kiristykset, vakavat talousrikokset) epäiltäessä. Tekijänoikeuksien alaisten teosten siirto ei kuulu tähän ryhmään, paitsi ehkä, jos se tapahtuu ansaitsemistarkoituksessa.
Puolueen ohjelman vakava puute on se, että puolue ei esitä konkreettisiä ratkaisuja aineettomien teosten tekijöiden taloudellisten oikeuksien turvaamiseksi, vaan tyytyy vähättelemään ongelmaa.
Mutta samaa mieltä olen esim. tekijänoikeuksien järjettömän pitkistä kestoista ja patenttijärjestelmän mädännäisyydesta.
Kuitenkin puolueen hölmöin ratkaisu, joka vesittää kaiken: puolue jättäytyy tietoisesti "yhdenasianliikkeeksi", eli jättää ehdokkailleen vapaat mielipiteet yli 99% eduskuntatyöstä, siis kaikkeen puolueohjelman ulkopuolisiin asioihin. Puolue siis etsii äänestäjikseen ihmisiä, joille muu yhteiskunnan asioiden hoitaminen on yhdentekevää. Tällaisia minun näkökulmani mukaan löytyy vain niistä, jotka ilman piraattipuoluetta jättäisivät äänestämättä. Heitä voi olla, mutta onko tarpeeksi? Vaikka kannatan puolueen ajamia tavoitteita, en voi äänestää sen ehdokkaita.
Jotta joku puolue voitaisiin ottaa vakavasti, sillä täytyy olla ideologia: ajatusrakennelma, joka johtaa kaikki tavoitteet yleisistä, julkisista perusarvoista ja jolla on looginen teoria arvojen toteuttamiseksi. Totta, useimmilla puolueilla ei ole selvää ideologiaa. Minusta tuntuu, että Suomessa sellainen on vain Kokoomuksella ja Vihreillä. Muut ovat enemmän tai vähemmän vain valtaa tavoittelevia eturyhmäpuolueita tai yhdenasianliikeitä.
sunnuntai 2. toukokuuta 2010
Uusi, paha imperiumi ärähtelee?
"Vanha, paha imperiumi", Microsoft on kriisissä. Ehkä sielläkin on tajuttu, että PC-ohjelmistoliiketoiminnan perusta vahvana voiton tuottajana ja jatkuvan kasvun turvaajana on luhistumassa. Tällä bisneksellä on 5-10v elinaikaa. Perustan nakertajina ovat mobiiliviestintä ja (hieman kiistanalaisesti) "cloud computing", pilviprosessointi.
Mikä on uuden asetelman valtias, uusi imperiumi? Kotoinen Nokiamme yrittää ottaa osansa, mutta silmiin pistävämpää on Applen agressiivisyys. Onko Apple uusi, paha imperiumi, joka pyrkii nujertamaan kilpailun ja kaikin mahdollisin keinoin kaventamaan kuluttajien valinnanvapautta niiltä osin kuin sille itselle on edullisinta? Minusta näyttää siltä. Apple ei koskaan ole ole ollut millään mittarilla avoimen tietojenkäsittelyn kannattaja. Se on ollut aina, häviöllä ollessankin, suljetumpi kuin kilpailijansa. Jobs on varmasti todennut, että Mac ei ole tulevaisuuden rahasampo: kasvu on haettava muualta ja kyynerpäät on pidettävä terävinä.
Uusi keskustelu Jobsin ärhentelystä Abodelle paljastaa pelin henkeä. Jobsin tekosyyt Flashin teknisistä puutteista ja jopa avoimuuden puutteesta (!!!!) tuskin ovat todellinen motiivi. Todellinen ärtymisen syy lienee se, että Flash ja Abode yleensäkin tukevat "cross platform" kehitystä. Siitä ei uudeksi imperiumiksi tähtäävä Apple alkuunkaan pidä.
Pitäkää silmät auki!
"Steve Jobs believes he's gambling Apple's future on an all-or-nothing push into a new market"
Mikä on uuden asetelman valtias, uusi imperiumi? Kotoinen Nokiamme yrittää ottaa osansa, mutta silmiin pistävämpää on Applen agressiivisyys. Onko Apple uusi, paha imperiumi, joka pyrkii nujertamaan kilpailun ja kaikin mahdollisin keinoin kaventamaan kuluttajien valinnanvapautta niiltä osin kuin sille itselle on edullisinta? Minusta näyttää siltä. Apple ei koskaan ole ole ollut millään mittarilla avoimen tietojenkäsittelyn kannattaja. Se on ollut aina, häviöllä ollessankin, suljetumpi kuin kilpailijansa. Jobs on varmasti todennut, että Mac ei ole tulevaisuuden rahasampo: kasvu on haettava muualta ja kyynerpäät on pidettävä terävinä.
Uusi keskustelu Jobsin ärhentelystä Abodelle paljastaa pelin henkeä. Jobsin tekosyyt Flashin teknisistä puutteista ja jopa avoimuuden puutteesta (!!!!) tuskin ovat todellinen motiivi. Todellinen ärtymisen syy lienee se, että Flash ja Abode yleensäkin tukevat "cross platform" kehitystä. Siitä ei uudeksi imperiumiksi tähtäävä Apple alkuunkaan pidä.
Pitäkää silmät auki!
"Steve Jobs believes he's gambling Apple's future on an all-or-nothing push into a new market"
Tilaa:
Blogitekstit (Atom)
Tekstit
