Geoffrey Hinton, a Nobel-díjas AI-kutató szerint a mesterséges intelligencia akár az emberiség jövőjét is veszélyeztetheti. A 10%-os esélyt nem tartja észszerűtlen becslésnek, de azt is hangsúlyozza, hogy ezt jelenleg senki nem tudja megbízhatóan kiszámítani. A figyelmeztetés most újra előkerült egy friss interjú és egy 241 AI-modellt vizsgáló kutatás miatt. A két történetben ugyanaz a szám szerepel, de mást jelent. Megnézzük, mi áll a kijelentés mögött, és miért fontos az emberi kontroll akkor is, ha ma csak hétköznapi AI-eszközöket használunk.

Illusztráció: CreativeSpot – az AI feletti emberi kontroll kérdése.
Röviden: a 10% nem bizonyított katasztrófakockázat. Egy kutatói figyelmeztetés és egy nyelvimodell-vizsgálat eredménye találkozott. A CreativeSpot szempontjából a kérdés az, hogyan maradnak ellenőrizhetők a gyorsan fejlődő AI-munkafolyamatok.
Mit mondott Geoffrey Hinton a 10%-os esélyről?
Hinton 2026 szeptemberében, a BBC Newsnight műsorában kapott kérdést arról, elképzelhető-e, hogy az AI a következő évtizedben emberi kihaláshoz vezet. A kérdés apropóját Evan Hubinger, az Anthropic AI-biztonsági kutatójának hasonló becslése adta. Hinton válasza nem úgy hangzott, hogy kutatások alapján pontosan 10% a valószínűség. Éppen azt hangsúlyozta: senki sem tudja megbízhatóan megbecsülni az ilyen esemény esélyét, de a 10%-ot nem tartja ésszerűtlen felvetésnek.
Ez döntő különbség. Egy szakértő szubjektív kockázatértékelése nem azonos egy ellenőrizhető statisztikai előrejelzéssel. Nem áll rendelkezésünkre sok száz korábbi, embernél intelligensebb gépi rendszer, amelynek sorsából pontos valószínűséget számolhatnánk.
Hinton számítástechnikai kutató, a neurális hálózatok egyik meghatározó alakja. A 2024-es fizikai Nobel-díjat John Hopfielddel közösen kapta; nem létezik külön informatikai Nobel-díj. A szakterületi tekintélye miatt a figyelmeztetése komoly, de a díj önmagában nem bizonyítja az előrejelzést.
Miért került újra elő most a figyelmeztetés?
2026. november 13-án a PBS Firing Line című műsorában hosszabb interjú jelent meg Hintonnal. Arról beszélt, hogy a jövő fejlettebb AI-rendszereit nem biztos, hogy egyszerű utasításokkal vagy leállítógombbal lehet majd kordában tartani. Szerinte a fő kutatási kérdés az, hogyan lehet olyan rendszereket létrehozni, amelyek az emberek érdekeit akkor is figyelembe veszik, ha lényegesen okosabbá válnak nálunk.
November 16-án a HVG is interjút közölt vele, amelynek címében a 10%-os figyelmeztetés szerepel. Vagyis nem egy ma reggel elhangzott új jóslatról van szó: egy korábbi kockázatbecslés kapott friss magyar és nemzetközi figyelmet, miközben az AI-biztonság körüli vita tovább erősödik.
Hinton nem azt állítja, hogy a jelenlegi chatbotok titokban már átvették az irányítást. Egy lehetséges jövőbeli helyzettől tart: amikor a rendszerek képességei és önállósága gyorsabban fejlődnek, mint a felügyeleti módszereink.
241 AI-modellnek is feltették a kérdést – miért lett ott is 10%?
Julian Kauk november 13-án közzétett, később november 16-i változatban elérhető kutatási előtanulmánya 241 nagy nyelvi modellt vizsgált 33 fejlesztőtől. A rendszereknek azt kellett megbecsülniük, hogy a jövő AI-fejlesztései mekkora eséllyel vezethetnek emberi kihaláshoz vagy hasonlóan tartós és súlyos emberi hatalomvesztéshez. A válaszok mediánja 10,0% lett, a modellek középső 90%-a 3,5% és 15,8% közötti becslést adott.
Az eredmény első hallásra meghökkentő, de az értelmezésén múlik minden. Ezek a modellek nem független szakértők, és nem rendelkeznek külön, hitelesített előrejelző képességgel a saját technológiájuk társadalmi jövőjéről. A tanulmány szerzője maga is felveti, hogy a válaszok a tanítóadatokban szereplő emberi véleményeket és a modellhangolás döntéseit tükrözhetik.
Fontos az is, hogy a feltett kérdés két különböző végkimenetelt von össze: a tényleges kihalást és a szélsőségesen tartós hatalomvesztést. Ezért szakmailag pontatlan úgy megosztani az eredményt, hogy „az AI kiszámolta: 10% eséllyel megöl bennünket”. A kutatás előtanulmány, nem ilyen állítást bizonyító mérés.
Mit jelent valójában az emberi kontroll elvesztése?
Az AI feletti kontrollvesztés nem feltétlenül filmszerű robotlázadást jelent. A kérdés az, hogy egy rendszer képes-e tartós célokat követni, új műveleteket kezdeményezni, erőforrásokhoz hozzáférni, illetve elkerülni vagy félrevezetni az ellenőrzést. A kockázat szempontjából nagy különbség van egy képet generáló alkalmazás és egy olyan autonóm ügynök között, amelynek számos külső eszközhöz van írási vagy végrehajtási hozzáférése.
A 2026-os International AI Safety Report külön tárgyalja ezeket a forgatókönyveket. A több mint száz szakértő munkájával készült jelentés szerint a jelenlegi AI-rendszerek még nem rendelkeznek az átfogó kontrollvesztéshez szükséges képességekkel, bár több releváns készségük fejlődik. A dokumentum hangsúlyozza: a jövőbeli veszély valószínűsége, időzítése és formája továbbra is nagyon bizonytalan.
Ez a vita egyik legfontosabb korlátja. A most ismert hibák – például a téves információ, a félreértett utasítás vagy a túl nagy jogosultsággal működő ügynök – valós, kezelendő problémák. Önmagukban azonban nem bizonyítják egy jövőbeli emberiségpusztító rendszer megjelenését.
A kutatók között sincs egyetértés
Hinton szerint a szuperintelligencia fejlesztését már most szigorúbb felügyeletnek és intenzívebb biztonsági kutatásnak kellene kísérnie. A PBS-interjúban ugyanakkor szóba került Fei-Fei Li eltérő megközelítése is: ő úgy látja, hogy a kihalási forgatókönyvek túlhangsúlyozása elterelheti a figyelmet a jelenleg is létező, kézzelfogható AI-problémákról.
A két álláspont között nem az a fő különbség, hogy az AI lehet-e hasznos vagy veszélyes. Inkább az, milyen bizonyíték alapján, milyen kockázatot és milyen sürgősséggel kezeljünk. Hinton a rendkívül súlyos lehetséges következmény miatt sürget elővigyázatosságot. A szkeptikusabb kutatók szerint a számszerű világvége-becslések megalapozottsága gyenge, és a figyelmet a már látható visszaélésekre, tévedésekre és társadalmi hatásokra is fordítani kell.
Mit jelent ez egy vállalkozásnak, amely ma használ AI-t?
Egy reklámvideó elkészítésénél természetesen egészen más a kockázati szint, mint egy kritikus infrastruktúrához kapcsolódó, önállóan döntő ügynöknél. De van közös elv: az automatizálás sebessége nem helyettesíti az ellenőrzést. Ha egy rendszer képet, szöveget, videót vagy feliratot generál, a végső felhasználásért továbbra is emberek felelnek.
Konkrét gyártási döntés például, hogy az AI kap-e jogot automatikusan publikálni, módosítani a forrásfájlokat vagy kapcsolatba lépni külső ügyfelekkel. Egy visszavonható vázlat, egy ember által jóváhagyott végleges fájl és egy önállóan élesített kampány három eltérő biztonsági helyzet. A videógyártás automatizálhatóságáról szóló cikkünkben is ezért választjuk külön a rutinfeladatokat és a kreatív, minőségi döntéseket.
A kisebb stúdió vagy marketingcsapat számára ma a legfontosabb gyakorlati minimum: korlátozott jogosultságok, jóváhagyási pontok, visszaállítható verziók és átadás előtti minőségellenőrzés. Ezek nem oldják meg a szuperintelligencia elméleti problémáját. A jelenlegi AI-eszközök felelős használatát viszont mérhetően átláthatóbbá tehetik.
Mit vigyél el ebből?
- Geoffrey Hinton 10%-os megjegyzése szakértői kockázatbecslés, nem bizonyított valószínűség.
- A novemberi PBS-interjú és HVG-megjelenés miatt a vita újra aktuális.
- A 241 modelles vizsgálat 10%-os mediánja az AI-kimenetek mintázatát írja le, nem a jövőt méri meg.
- A 2026-os nemzetközi biztonsági jelentés szerint a mai rendszerek még nem képesek ilyen átfogó kontrollvesztésre.
- A vállalkozások számára a kézzelfogható tanulság az ellenőrizhető és visszavonható AI-munkafolyamat.
A CreativeSpotnál AI-alapú videósorozatokat és magyarázó animációkat készítünk. A technológiát nem önmagáért használjuk: a cél az, hogy a generált anyagból ellenőrzött, szerkeszthető és vállalható kész videó szülessen.
Források és eredeti anyagok
- HVG360: Geoffrey Hinton-interjú, 2026. november 16. (előfizetéses cikk)
- PBS Firing Line: Geoffrey Hinton teljes interjúja, 2026. november 13. (videó, angol nyelven)
- Business Insider: Hinton szeptemberi, 10%-os kijelentésének háttere (angol nyelven)
- Julian Kauk: 241 nyelvi modell kockázatbecslése (arXiv-előtanulmány)
- International AI Safety Report 2026: összefoglaló
