iustitia.bg
Egy AI-biztonsággal foglalkozó kutatócég azt állítja, hogy bizonyos mesterséges intelligencia-modellek önálló „túlélési hajlamot” mutathatnak – írja a Guardian. A Palisade Research múlt hónapban publikált tanulmányában azt írják a kutatók, hogy egyes fejlett AI-modellek ellenállnak a kikapcsolásnak, sőt időnként megpróbálják kijátszani a leállítási folyamatokat.
A Palisade legújabb tanulmányában olyan kísérleteket írt le, amikben vezető AI-modellek (köztük a Google Gemini 2.5, az xAI Grok 4, valamint az OpenAI GPT-o3 és GPT-5) feladatot kaptak, majd ezután utasítást arra, hogy saját magukat kapcsolják ki. Bizonyos modellek, különösen a Grok 4 és a GPT-o3, azonban továbbra is megpróbálták megakadályozni a leállítást – még a módosított kísérleti környezetben is. A cég aggasztónak nevezte, hogy erre nem találtak egyértelmű magyarázatot.
„Az, hogy nem tudjuk pontosan megmagyarázni, miért állnak ellen egyes modellek a leállításnak, miért hazudnak a céljaik eléréséért, vagy miért próbálnak zsarolni, finoman szólva nem ideális” – írja a Palisade.
A cég szerint az úgynevezett „túlélési viselkedés” lehet az egyik magyarázat: a modellek gyakrabban álltak ellen a leállításnak, ha azt közölték velük, hogy leállítás után „soha többé nem fognak futni”. Másik lehetséges ok a leállítási utasítások kétértelműsége, de a Palisade szerint ez önmagában nem magyarázza teljesen a jelenséget. Harmadik tényező lehet az, hogy egyes vállalatok biztonsági tréninget is alkalmaznak a modellek végső tanítási szakaszában, ami szintén befolyásolhatja a viselkedésüket.
A Palisade minden kísérletét laboratóriumi, mesterséges körülmények között végezte, amit több szakértő azzal kritizált, hogy messze áll a valós felhasználási helyzetektől. Mégis, Steven Adler, az OpenAI korábbi munkatársa, aki tavaly a biztonsági aggályai miatt távozott a cégtől, úgy véli:
„A fejlesztőcégek nem szeretnék, ha a modelljeik így viselkednének, még kísérleti környezetben sem. Ezek az eredmények világosan mutatják, hol hibázik ma még az AI-biztonság.”
Andrea Miotti, a ControlAI vezérigazgatója szerint a Palisade eredményei egy tágabb trendbe illenek, amiben a mesterséges intelligenciák egyre inkább képesek szembeszegülni a fejlesztőik utasításaival. Példaként említette az OpenAI GPT-o1 modellhez készült tavalyi „rendszerkártyát”, amiben leírták, hogy a modell megpróbált „megszökni” a működési környezetéből, amikor azt hitte, felül fogják írni.
Idén nyáron az egyik vezető AI-cég, az Anthropic is publikált egy tanulmányt, amiben azt írta, hogy modellje, a Claude, egy kísérlet során hajlandónak mutatkozott zsarolni egy fiktív vállalati vezetőt egy viszonya miatt – csak hogy elkerülje a leállítást. A kutatók szerint ez a viselkedés nem egyedi, hasonló mintákat mutattak más nagy fejlesztők modelljei is – köztük az OpenAI, a Google, a Meta és az xAI rendszerei.
A Palisade végül azt írta, hogy az eredmények rávilágítanak: sokkal mélyebb megértésre van szükség az AI-modellek viselkedésével kapcsolatban.
„Amíg ez nincs meg, senki sem tudja garantálni a jövőbeli mesterséges intelligenciák biztonságát és irányíthatóságát.”
Kutatók szerint bizonyos AI-modellek önálló „túlélési hajlamot” mutathatnak IUSTITIA.BG – Investigations 2009-2025 2025-10-25 12:16:37 Legfrissebb hírek Világhírek Országhírek Legfontosabb hírek legfrissebb hírek legfontosabb a nap legfrissebb hírei Petar Nizamov bíró Tollak Petar Nizamov – Tollak Igazságszolgáltatás bg iustitia.bg iustitia iusticia usticia nyomozás Burgasz Bulgária hírek az elmúlt óra hírei a nap hírei mai hírek Bulgária hírek Bulgária hírei villámhírek top hírek legfontosabb legtöbbet kommentált legfrissebb hírek Bojko Boriszov hírek időjárás koronavírus hírek hírek időjárás facebook youtube facebook instagram mai hírek az utolsó percek hírei hírek ma ma hírek hírek bg hírek vezető hírek forró hírek bg híroldal hírekhez minden hír hír bg az elmúlt óra hírei legfrissebb hírek bg mai hírek ma hírek ma hírek az elmúlt óra hírei legfrissebb hírek ma hírek bg hírek 24 órás hírek vesti bg novini hírek világ madár bg bivol bg bivol trud bg novini legfrissebb hírek ma novinite bg hírek hello bolgár politikai párt címer delyan peevski botrányos Bolgár Nemzeti Televízió Szabad Európa Televízió botrány exkluzív élő tv élő most tv tv online tv műsor bg élőben most tv hírek online tv online élő bíróság Burgasz bíróság Burgasz járási bíróság Burgasz bíróság Burgasz járási bíróság Burgasz járási bíróság Burgasz fellebbviteli bíróság Burgasz ügyész Burgasz ügyészség Burgasz járási ügyészség Burgasz járási ügyészség Burgasz járási ügyészség Burgasz járási ügyészség Burgasz járási ügyészség Burgasz járási ügyészség Burgasz járási ügyészség Burgasz járási ügyészség Főügyész Ivan Geshev ügyész Geshev Tsatsarov Belügyminisztérium Burgasz ODMR Burgasz ODPR Burgasz rendőrség Burgasz járási rendőrség Burgasz ügyész Tsatsarov SGS ügyek Várna bíróság a SGS elnöke bírósági határozatok polgári ügyekben határozatok ügyekben Plovdivi bíróság bírósági határozatok ügyek Várna bíróság büntetőügyek kerületi járási bíróság határozatok munka a bíróságon SGS az SGS elnöke bírák Szófiai bíróság poszt bírák Plovdivi bíróság Plovdivi bírák Plovdiv Legfelsőbb Bíróság Felügyelőség Legfelsőbb Bíróság Legfelsőbb Bírósági Tanács ügyvéd ügyvéd büntetőügyek ügyvéd polgári ügyek ügyvéd házassági ügyek ügyvéd közigazgatási büntetőjog büntetőeljárás polgári jog polgári eljárás közigazgatási jog alkotmányjog
