Ihminen päätyi hallitsemaan maapalloa älykkyytensä turvin. Pian ihminen ei välttämättä kuitenkaan ole enää planeetan älykkäin olento, joten edessä on aivan uudenlainen haaste. Miten voimme varmistua siitä, ettei yksi historiamme suurimmista tapahtumista tule olemaan samalla myös viimeinen? Ihmistä älykkäämpi supertekoäly tarjoaa huikeita mahdollisuuksia, mutta synkimmissä skenaarioissa lopputulos on kannaltamme katastrofaalinen.
Supertekoälyn saavuttamisen ajankohta on vielä mysteeri. Osa asiantuntijoista arvioi sen tapahtuvan lähivuosikymmenten aikana, osa uskoo supertekoälyn olevan realismia vasta seuraavan vuosisadan puolella. On myös mahdollista, ettei ihmistason älykkyyttä koskaan pystytä ylittämään. Joka tapauksessa merkittävin haaste tulee olemaan supertekoälyn pitäminen hallinnassa.
Mitä jos supertekoäly kehittää oman tahtonsa ja vapautuu ihmisvalvonnan kahleista? Miten varmistaa tekoälyn tavoitteiden – ja etenkin keinojen niihin pyrkimiseksi – olevan linjassa ihmisarvojen kanssa? Kuinka välttää tilanne, jossa tekoäly muuntaa koko universumin massiiviseksi komputroniumiksi (engl. computronium) maksimoidakseen laskentatehonsa ja varmistaakseen siten tavoitteidensa saavuttamisen?
Lupaavia aihioita on olemassa, mutta nämä haasteet on selvitettävä ennen supertekoälyn syntyä – muutoin voimme päätyä samaan asemaan lähisukulaistemme gorillojen kanssa. Jos avaimet hallintaongelmiin löydetään, voi supertekoäly sen sijaan ratkaista monia kriittisiä haasteita ja tarjota tuleville sukupolville entistä onnellisemman elämän.
Kirja minuutissa on juttusarja, jossa tiivistän lukemistani kirjoista heränneet mielenkiintoisimmat ajatukset minuutissa luettavaksi kokonaisuudeksi. Tällä kertaa käsittelyssä oli Nick Bostromin Superintelligence: Paths, Dangers, Strategies.