Tekoälyn isänä pidetty tohtori Geoffery Hinton, 75, on irtisanoutunut Googlesta. Irtisanoutumisensa syynä hän kertoi, että voisi puhua avoimesti tekoälyn vaaroista. Hinton myös sanojensa mukaan katuu elämäntyötään tekoälyn kehittämiseksi ja on alkanut vastustamaan sen kehitystä.
Hintonin huolet tekoälyä kohtaan koskevat ensisijaisesti sitä, kuinka teknologialla saadaan tuotettua uskottavaa valheellista sisältöä, mukaan lukien videoita ja kuvia. Lisäksi tekoäly voisi haitata työmarkkinoita.
Erityisesti ChatGPT:n kaltaiset tekoälyä hyödyntävät keskusteluohjelmat ovat jo ”melko pelottavia” hänen mukaan. Tekoäly voisi kehittyä vaaralliseksi, mikäli sitä käytettäisiin vääriin tarkoituksiin.
– Olen tullut siihen johtopäätökseen, että äly mitä kehitämme on hyvin erilainen meidän älystämme. Tulevaisuudessa tekoäly voisi myös mahdollisesti kehittää omaa koodiansa ja sisäistää sitä järjestelmiinsä. Sotilasteknologiassa tämä voisi olla katastrofaalista.
– Ajattelin, että tekoälyn kehittyminen ihmistä älykkäämmäksi veisi 30 tai 50 vuotta. Enää en ajattele näin, Hinton toteaa.
Aiheeseen (tekoäly) liittyen:
Tutkija uskoo ihmisten lopun olevan lähellä:
Brittilehti The Guardian haastatteli useaa asiantuntijaa, jotka suhtautuvat pessimistisesti tekoälyn kehittymiseen.
Yudkowskyn lausunnot olivat aivan eri tasolla:
– Jos pakotat minut arvioimaan todennäköisyyksiä, sanoisin, että ihmiskunnalla on jäljellä ennemmin viisi kuin viisikymmentä vuotta. Voi olla kaksi vuotta, voi olla kymmenen, hän "Täräytti."
Tekoälyn kehittyminen saa meidät tällä hetkellä hämmästelemään ihmiskunnan ottamia teknologisia edistysaskeleita, mutta Yudkowsky uskoo ihastelun olevan pian ohi.
Hänen pelkonaan on jumaltason superäly, joka on ihmisille liian älykäs ja nopea hallittavaksi. Tekoälyä ei pidä hänen mukaansa ajatella laatikkoon suljettuina aivoina, jotka tekevät mitä pyydetään, sillä ihmistä edistyneempi tekoäly löytää Yudkowskyn mukaan keinot päästä pois laatikosta.
– Yritä kuvitella muukalaissivilisaatio, joka ajattelee tuhat kertaa nopeammin kuin me...
Yudkowsky on Kaliforniassa sijaitsevan Machine Intelligence Research Institute -tutkimuslaitoksen (MIRI) perustaja. Hän on työskennellyt tekoälyn kehityksen parissa vuodesta 2001.
Voittoa tavoittelematon instituutti on keskittynyt tunnistamaan tekoälyn kehittymiseen liittyviä riskejä. Instituutti pyrkii edistämään toimintatapoja, joilla varmistetaan tekoälymallien pysyminen ystävällismielisenä.
Yudkowsky:lta irtoaa yllättävän kovia lausuntoja
Time-lehdessä viime keväänä julkaistussa kirjoituksessaan Yudkowsky toivoi muun muassa datakeskusten pommittamista maan tasalle tekoälyn pysäyttämiseksi.
– Tekoäly ei rakasta ihmisiä, mutta ei myöskään vihaa. Sen mielestä atomit, joista ihminen on tehty, voisivat vain olla paremmassa käytössä muualla.
Lisäksi hän vertasi ihmiskunnan ja tekoälyn epätasaväkistä tilannetta siihen, että 10-vuotias pelaisi shakkia maailman edistyneintä shakkimoottoria vastaan.
Yudkowsky tarjoili synkkiä näkemyksiään myös Bloombergille viime kesänä.
– Mielestäni me emme ole valmiita, emmekä tiedä, mitä olemme tekemässä...
Lähteet: The Guardian, Time, Bloomberg
Oppenheimerin pojanpoika J. Robert Oppenheimer varoittaa maailmaa – ”Seisomme jyrkänteen reunalla."
"Tekoäly voi olla ihmisille eksistentiaalinen uhka."
Atomipommin kehittäjän pojanpoika varoittaa tekoälyyn liittyvistä riskeistä. Ulostulon takana oleva ryhmä vaatii tekoälyn kehittämiseen valvontaa ja sääntelyä.
Oppenheimer Projectin teknologisen murroksen kantava ajatus kiteytyy isoisän kuuluisiin sanoihin; "maailman ihmisten on lyöttäydyttävä yhteen tai muuten heitä odottaa tuho."
Jotkin edessämme olevista uhkista vaarantavat koko elämän olemassaolon maapallolla. Meillä ei ole vielä edes käsitystä siitä, kuinka merkittäviä tekoälyyn liittyvät riskit ovat.
Teknologia itsessään ei ole paha, mutta se on työkalu, jonka käyttäminen voi johtaa kammottaviin asioihin, jos sen annetaan kehittyä liian nopeasti väärissä käsissä.
Must kommentoida:
Tekoälypohjainen Microsoft Bing änkee pyytämättä ovista ja ikkunoista koneelleni. Tietää asuinpaikkani ja varmaan kaikenlaista muutakin, enemmän kuin itsekään muistan... Se tuntuu oudolta ja ärsyttää...
Toisaalta, huvittaisi kysyä Bingiltä mitä kaikkea tietoa sillä on meitziboista, mutta en anna uteliaisuudelleni valtaa, enkä mene Bingin koukkuun.
Ei kommentteja:
Lähetä kommentti