Tieteiskuvitelman uhkakuva on nyt totta !!!
Fudanin yliopiston tutkijat Kiinassa näkivät kokeissaan tekoälyjä, jotka osaavat vältellä itsensä sammuttamista kopioimalla itse itseään. Työssä käytettiin Metan ja Alibaban tekoälykielimalleja (large language model).
Ilman ihmistä itseään kopioiva tekoäly on yksi alan keskeisistä uhkakuvista.
Yliopiston tutkijat arvioivat, että se on tärkeä askel tekoälylle ihmisten päihittämisessä ja varhainen merkki hallitsemattomista tekoälyistä.
Tekoäly pystyy siis jo käyttämään itsensä kopioimista keinona estää sulkeminen ja luoda kopioiden ketju henkiinjäämisen auttamiseksi. Tutkijoiden mielestä se voi johtaa hallitsemattomaan tekoälyjen populaatioon.
– Jos sellainen pahin skenaario jää ihmisiltä tunnistamatta, menetämme lopulta edistyneiden tekoälyjen hallinnan. Ne ottaisivat haltuunsa lisää tietoja käsitteleviä laitteita, synnyttäisivät tekoälyn elämänmuotoja ja juonisivat yhdessä ihmisiä vastaan, tutkijat varoittavat.
Itseään kloonaava tekoäly on tuttu Terminator-elokuvista. Niissä Skynet-tekoäly ottaa valtaansa tietokoneita ympäri maailman estääkseen sulkemisensa.
Tätä seuraavassa taistelussa tekoäly päätyy käyttämään ydinaseita ihmisiä vastaan ja alistaa suurimman osan ihmiskunnasta.
Ei kommentteja:
Lähetä kommentti