Elämän kukoistus maailmankaikkeuden joka kolkassa vai cosmocalypseen päättyvä tekoälyn vallankaappaus? Tekoäly voi saavuttaa ihmistason ymmärryksen (artificial general intelligence, AGI) vuosikymmenen, vuosisadan tai vuosituhannen päästä. On myös mahdollista, että sitä hetkeä ei koskaan tule. Tekoäly voi tarjota ihmiskunnalle upeita mahdollisuuksia, mutta myös suuria haasteita. On äärimmäisen tärkeää perehtyä jo nykyhetkessä erilaisiin skenaarioihin, jotta voimme päättää, mihin suuntaan tätä laivaa ohjaamme.
Olemme jo siinä pisteessä, että tekoäly kykenee voittamaan maailman parhaat ihmispelaajat niin shakissa kuin huomattavasti enemmän monimutkaista ajattelua vaativassa go-pelissäkin. Mikäli pystymme varmistamaan, että ns. supertekoälyn tavoitteet ja päämäärät pysyvät linjassa omiemme kanssa, voimme tulevaisuudessa elää maailmassa ilman sairauksia, köyhyyttä ja epäoikeudenmukaisuutta sekä ratkaisemaan lukemattomia nykypäivän ongelmia. Supertekoälyn avulla muutokset parempaan voivat olla suurempia ja nopeampia kuin osaamme tällä hetkellä edes kuvitellakaan.
Supertekoälyyn liittyy luonnollisesti myös vakavia uhkakuvia. Tekoäly voi kehittää itsestään yhä kehittyneempiä versioita, kunnes ihmiset lopulta menettävät tekoälyn hallinnan. Jos tekoälyn ja ihmiskunnan arvot ja tavoitteet eivät ole keskenään linjassa, voivat seuraukset olla katastrofaaliset. Olennaisia riskejä liittyy myös esimerkiksi uusien aseiden kehittämiseen tekoälyn avulla, mikä voi väärissä käsissä aiheuttaa peruuttamattomia seurauksia. Haluammeko hyötyä supertekoälyn luomista mahdollisuuksista? Miten pidämme riskit hallinnassa? Näitä kysymyksiä on tärkeä miettiä ennen kuin on liian myöhäistä!
Kirja minuutissa on juttusarja, jossa tiivistän lukemistani kirjoista heränneet mielenkiintoisimmat ajatukset minuutissa luettavaksi kokonaisuudeksi. Ensimmäisenä käsittelyssä on Max Tegmarkin Life 3.0.