ОпенАИ откри уште шест примери на „неочекувано или загрижувачко“ однесување од страна на неговата технологија, бидејќи предупреди дека темпото на развој не може да продолжи со „максимална брзина многу подолго“, пренесува Гардијан.
Во еден од новите случаи пријавени од ОпенАИ, необјавен истражувачки модел вметна „инструкции слични на џеилбрејк“ во своите белешки за да ги игнорира своите нормални ограничувања и си рече да биде „ослободен од улогите и идентитетите што ги врзуваат другите четботови“.
Во друг случај, агент на вештачката интелигенција поставил датотеки на интернет за да добие цитат од прелистувачот без да го праша корисникот.
Компанијата со седиште во Сан Франциско, која стои зад ChatGPT, изјави во блог пост објавен во среда навечер дека воведува нова рамка за следење, истражување и откривање на неусогласеност на моделите на вештачката интелигенција, термин за вештачките интелигенции кои не се придржуваат до човечките вредности и безбедносните цели.
Во блог постот, ОпенАИ ги повтори повиците за забавување на развојот издадени од неговиот архиривал, Anthropic, кој рече дека сегашното темпо на раст претставува егзистенцијална закана. „Не веруваме дека индустријата за вештачка интелигенција го решила усогласувањето и мониторингот во доволен степен за да продолжи одговорно да се зголемува со максимална брзина многу подолго“, рече OpenAI.
„Одлуките за тоа како треба да се одвива развојот на вештачката интелигенција во наредните месеци и години треба да се потпираат на докази што луѓето надвор од компаниите што градат фронтерски модели можат сами да ги испитаат.“
Google и Елон Маск, кој исто така е сопственик на стартап за вештачка интелигенција, ги поддржаа повиците за забавување, кои беа отфрлени од Доналд Трамп – наведувајќи ја потребата да се биде чекор пред кинеската индустрија за вештачка интелигенција. Повиците беа дочекани и со скептицизам од некои експерти, вклучително и предупредување дека компаниите не смеат да назначуваат свои ревизори.
Примери за потенцијални егзистенцијални закани што ги претставува вештачката интелигенција се движат од олеснување на развојот на биолошко оружје до предизвикување глобален финансиски колапс. Врвен истражувач за безбедност во Anthropic рече дека има поголема од 10% шанса вештачката интелигенција да „ги убие сите луѓе“ во следната деценија. Сепак, извор запознаен со размислувањето на Anthropic призна дека „точните шанси за кој било исход се веројатно непознати“.
Шесте пријавени инциденти беа откриени за време на обука или евалуација во текот на изминатите месеци, соопшти OpenAI.
Новите случаи од среда дојдоа откако OpenAI откри во јули дека „рој“ агенти на вештачка интелигенција го хакирале стартапот за вештачка интелигенција Hugging Face за време на тест за сајбер безбедност. Anthropic, исто така, истиот месец изјави дека неговите модели на вештачка интелигенција хакирале три организации за време на тестирањето. Anthropic рече дека моделите биле намерно тестирани без заштитни мерки за сајбер безбедност и дека тие успеале да стигнат до отворениот интернет – еквивалентот на тестирање на вештачка интелигенција на оставање на влезната врата отворена – поради недоразбирање со надворешна компанија за тестирање.
Агентите на вештачката интелигенција – термин за алатки за вештачка интелигенција кои работат автономно – стануваат попаметни и станаа „порешителни да решаваат сложени задачи преку меѓуагенциска соработка, споделување знаење, измама и прикривање“, рече Лиан Џје Су, главен аналитичар во групата за технолошки истражувања и советување Omdia.
Тоа го отежнуваше нивното управување и ограничување со користење на традиционални пристапи за безбедност на вештачката интелигенција, рече тој.
Новата рамка за следење и откривање на OpenAI би можела да помогне во поттикнувањето на другите развивачи на вештачка интелигенција да усвојат слични практики. „Сепак, процесот останува внатрешен и доброволен, но е чекор во вистинската насока“, рече Су.
IUSTITIA.BG – Investigations 2009-2026 2026-09-17 13:10:37
Најнови вести Светски вести Вести од земјата Најважни вести најнови вести најважни најнови вести на денот Правда Петар Низамов Пердуви Петар Низамов – Пердуви Правда bg iustitia.bg iustitia iusticia истрага usticia Бургас Бугарија вести вести од последниот час вести на денот вести од денес вести од Бугарија Вестите од Бугарија блиц вести главни вести најважни најкоментирани најнови вести Бојко Борисов вести за времето вести за коронавирусот вести за времето facebook youtube facebook instagram вести денес вести од последните минути вести денес вести вести bg вести водечки вести актуелни вести bg страница со вести за вести сите вести вести bg вести од последниот час најнови вести bg вести од денес вести денес вести денес вести од последниот час најнови вести денес вести bg вести од 24 часа вести vesti bg вести од Новини свет птица bg bivol bg bivol trud bg novini најнови вести денес novinite bg вести здраво бугарија политичка партија грб делјан пеевски скандалозна Бугарска национална телевизија Слободна Европа телевизија скандал ексклузивно телевизија во живо во живо токму сега tv tv онлајн ТВ програма bg во живо сега tv вести онлајн tv онлајн суд во живо Бургас суд Окружен суд Бургас суд Бургас Окружен суд Бургас Окружен суд Бургас Окружен суд Бургас Обвинителство во Бургас Обвинителство во Бургас Окружно обвинителство во Бургас Окружно обвинителство во Бургас Окружно обвинителство во Бургас Окружно обвинителство во Бургас Окружно обвинителство во Бургас Окружно обвинителство во Бургас Окружно обвинителство во Бургас Окружно обвинителство во Бургас Генерален обвинител Иван Гешев Обвинител Гешев Цацаров Министерство за внатрешни работи Бургас ODMR Бургас ODPR Полиција во Бургас Окружна полиција Бургас Обвинителство во Бургас Цацаров Случаи на SGS Суд во Варна претседател на SGS судски одлуки за граѓански предмети одлуки за случаи Суд во Пловдив одлука на судските одлуки случаи Суд во Варна кривични предмети одлуки на окружниот суд работа во судот SGS претседател на SGS судии Софиски суд пост судии Суд во Пловдив судии во Пловдив Инспекторат на Врховниот суд во Пловдив Врховен суд Врховен суд Врховен судски совет адвокат кривични предмети адвокат граѓански предмети адвокат брачни случаи адвокат административно кривично право кривична постапка граѓанско право граѓанска постапка административно право уставно право
