Digitália

2024.10.10. 06:00

Félnek a mesterséges intelligencia Nobel-díjat kapott atyjai, hogy a munkájuk túl messzire visz

Ünnepeljük a két tudóst, de ők aggódnak, hogy hová tart mindaz, aminek az alapjait megteremtették.

MW

2083343668

Forrás: Shutterstock

Fotó: Gorodenkoff

A Svéd Királyi Tudományos Akadémia bejelentette, hogy a fizikai Nobel-díjat John J. Hopfield emeritus professzornak, a Princetoni Egyetem és Geoffrey Hintonnak, a Torontói Egyetem professzorának ítéli oda. A díjat „alapvető felfedezésekért és találmányokért kapták, amelyek lehetővé teszik a gépi tanulást mesterséges neurális hálózatok segítségével”.

Hopfield és Hinton olyan mesterséges neurális hálózatokat fejlesztett ki, amelyek képesek megjegyezni az információkat és felismerni a mintákat az emberi agyat utánzó módon. Az 1980-as években végzett kutatásaik alapozták meg az elmúlt évtized robbanásszerű fejlődését a mesterséges intelligencia és a napjainkban mindenütt jelen lévő ajánlóalgoritmusok és generatív AI-rendszerek terén, de

azóta mindkét tudós azt mondja, hogy a fejlődést korlátozni kell az emberiség érdekében.

 

Winners of 2024 Nobel Prize in Physics
A 2024. évi fizikai Nobel-díj nyertesei, John Hopfield és Geoffrey Hinton láthatók fenn, a kék táblán a Svéd Királyi Tudományos Akadémia sajtótájékoztatóján Stockholmban
Forrás: Getty Images

A Nobel-bizottság a díj bejelentésében hangsúlyozta, milyen messzire jutott a terület, mióta Hopfield 1982-ben publikálta alapművét, amelyben egy 500-nál kevesebb paramétert tartalmazó neurális hálózatot írt le. Napjainkban a technológiai cégek több milliárd és billió paraméterrel rendelkező generatív mesterségesintelligencia-rendszereket adnak ki.

A Hopfield-hálózat 30 összekapcsolt digitális csomópont gyűjteménye volt, amelyek 1 és 0 között változtathatták értékeiket, és ennek során úgy programozhatók, hogy rögzítsék a fekete-fehér képek képpontjait ábrázoló mintákat. A fizikából származó egyenletekre támaszkodott, amelyeket annak leírására használtak, hogy a hálózatban lévő atomok hogyan hatnak egymásra. Ez a hálózat programozható bizonyos képek emlékeinek létrehozására. És amikor egy új, életlen vagy hiányos képet tápláltak bele, „el tudja képzelni”, vissza tudja számolni a memóriájában lévő leghasonlóbb képhez.

Hinton Hopfield munkájára építve olyan neurális hálózatokat tervezett, amelyek nemcsak emlékezni és újra létrehozni tudják a mintákat, hanem meg lehet őket tanítani a hasonló minták felismerésére teljesen különböző adatokból.

Ehhez képest 2023-ban már Hopfield volt az egyik legfigyelemreméltóbb aláírója további 33 ezer személyiség mellett, akik a Future of Life Institute oldalán nyílt levélben

felszólította az összes mesterségesintelligencia-laboratóriumot, hogy haladéktalanul, legalább hat hónapra szüneteltesse a GPT-nél erősebb MI-rendszerek képzését.

Olyan kockázatokra hivatkoztak, mint a mesterséges intelligencia által generált propaganda, a munkahelyek extrém automatizálása, az emberi képességek elavulása és az egész társadalomra kiterjedő kontrollvesztés. A nyílt levél aláírói között vannak akadémiai kutatók és iparági vezérigazgatók, köztük például Yoshua Bengio, Stuart Russell, Elon Musk, Steve Wozniak és Yuval Noah Harari.

Hopfield szerint

az emberek az elkövetkező 5–20 évben képesek lesznek olyan mesterséges intelligenciát építeni, amely meghaladja az emberi intelligenciát, ami ki fogja találni, hogyan lehet manipulálni bennünket, embereket, hogy azt tegyük, amit ő akar.

Hinton is sokat beszél az utóbbi időben aggodalmairól, miszerint a mesterséges intelligencia túl gyorsan fejlődik ahhoz, hogy az ember irányítása alatt tarthassa. A szakma nagy neveinek egyikeként idén aláírt egy nyílt levelet, amelyben felszólították a kaliforniai kormányzót, Gavin Newsomot, hogy hozzon törvényt, amely a nagy technológiai vállalatokat felelősségre vonja emberi életeket veszélyeztető vagy anyagi károkat okozó mesterséges intelligencia modellek építéséért. Newsom végül a technológiai cégek, köztük Hinton munkaadója, a Google nyomására megvétózta a törvényjavaslatot.

Hinton professzor 2013 óta dolgozott a Google-nál, részt vett a mesterséges intelligencia fejlesztésében, de 2023 márciusában otthagyta a céget.

„A következő néhány évben ki kell találnunk, hogyan kezeljük ezt a fenyegetést” – nyilatkozta Hinton a Nobel-díj kihirdetését követően.

Úgy gondolom, nagyon fontos, hogy az emberek azon dolgozzanak, miként tudjuk, mi emberek megtartani az irányítást. (...) Szerintem amit a kormányok megtehetnek, az, hogy rákényszerítik az óriáscégeket, hogy erőforrásaikból sokkal többet költsenek biztonsági kutatásra.

 

Hírlevél feliratkozás
Ne maradjon le a beol.hu legfontosabb híreiről! Adja meg a nevét és az e-mail-címét, és mi naponta elküldjük Önnek a legfontosabb híreinket!