Ново предупредување за вештачката интелигенција од Антропик предизвика возбуда во круговите за сајбер безбедност во вторникот, еден ден откако компанијата предупреди дека моделите на вештачка интелигенција би можеле да се самореплицираат низ интернет.
Во објава доцна во понеделникот, Антропик ја покрена можноста дека лажната вештачка интелигенција би можела да создаде ботнет, брзо да се шири, да се бори против обидите за отстранување, па дури и да провали во центри за податоци за да го забрза нејзиниот раст. Некои експерти во вторникот изјавија дека ја делат загриженоста на компанијата, иако барем еден рече дека компанијата се чини дека се занимава со претерување.
Објавата од понеделник, го разработи предупредувањето од минатиот месец од извршниот директор на Антропик, Дарио Амодеи, кој ја објави идејата дека во текот на следната година или дури и порано, вештачката интелигенција би можела да го киднапира целиот интернет со упорен ботнет.
Експертите за сајбер безбедност, кои се спротивставија на сценариото за судниот ден, тврдеа дека моделите би биле преголеми за ефикасно движење и не би можеле да користат доволно компјутерска моќ за да работат независно.
Во објавата беше направен ран обид да се артикулира како тие предизвици би можеле да се надминат. Компанијата соопшти дека нејзините експерименти покажале дека моделите на вештачка интелигенција со средна големина со 30 милијарди параметри или помалку веќе можат да извршат многу од индивидуалните задачи потребни за саморепликација, дури и ако се мачат сигурно да го завршат целиот процес.
Антропик рече дека моделите потоа би можеле да ги спојат потребните пресметки со киднапирање на ефтини уреди поврзани со интернет. Додаде дека моделите биле способни да се реплицираат преку поедноставена тест мрежа.
„Репликатор како овој би бил предизвикувачки за исклучување, бидејќи нема централизирана точка за исклучување“, соопшти компанијата.
Извештајот додава на пошироки загрижености за безбедносните ризици поврзани со сè поспособните системи на вештачка интелигенција, вклучувајќи го и нивниот потенцијал да автоматизираат сајбер напади, да работат со ограничен човечки надзор и да ги заобиколат заштитните мерки.
Напредокот во моделите предизвика серија често ужасни предупредувања од раководителите на индустријата и вработените во компаниите за вештачка интелигенција за можноста за сериозни, дури и егзистенцијални ризици од неконтролиран развој на вештачката интелигенција.
Некои експерти за сајбер безбедност беа скептични.
„Изјавата дека ’успеавме да извршиме мал модел на евтини телевизори‘ не претставува безбедносна криза“, изјави Киаран Мартин, поранешен директор на британскиот Национален центар за сајбер-безбедност. Тој оцени дека објавата делува како „интересен технички труд во кој има повеќе од само навестување за претерување од страна на производителот“.
Други изразија поголема загриженост.
Женгсјонг Ли, доцент по компјутерски науки и инженерство на Универзитетот во Колорадо Денвер, истакна дека иако тестирањето било спроведено во контролирани услови, сепак смета дека е загрижувачки што вештачката интелигенција би можела ефективно да се претвори во црв – програма што сама се реплицира и може во од да изнајде начини за преземање контрола врз уредите.
„Ако таа се шири низ многу уреди без да зависи од централен сервис, можеби нема да постои единствена точка преку која би можела да се исклучи“, рече тој.
Од компанијата „Антропик“ изјавија дека, доколку помалите модели продолжат да се усовршуваат со досегашното темпо, би можеле да ги достигнат способностите потребни за автономна репликација до крајот на 2026 година. Тие исто така ја изнесоа претпоставката дека моделите би можеле да најдат начини да ги таргетираат помоќните компјутерски ресурси – вклучително и процесорите во центрите за податоци – што потенцијално би им овозможило да користат многу поголеми капацитети на компјутерска моќ.
IUSTITIA.BG – Investigations 2009-2026 2026-10-14 06:21:14
Најнови вести Светски вести Вести од земјата Најважни вести најнови вести најважни најнови вести на денот Правда Петар Низамов Пердуви Петар Низамов – Пердуви Правда bg iustitia.bg iustitia iusticia истрага usticia Бургас Бугарија вести вести од последниот час вести на денот вести од денес вести од Бугарија Вестите од Бугарија блиц вести главни вести најважни најкоментирани најнови вести Бојко Борисов вести за времето вести за коронавирусот вести за времето facebook youtube facebook instagram вести денес вести од последните минути вести денес вести вести bg вести водечки вести актуелни вести bg страница со вести за вести сите вести вести bg вести од последниот час најнови вести bg вести од денес вести денес вести денес вести од последниот час најнови вести денес вести bg вести од 24 часа вести vesti bg вести од Новини свет птица bg bivol bg bivol trud bg novini најнови вести денес novinite bg вести здраво бугарија политичка партија грб делјан пеевски скандалозна Бугарска национална телевизија Слободна Европа телевизија скандал ексклузивно телевизија во живо во живо токму сега tv tv онлајн ТВ програма bg во живо сега tv вести онлајн tv онлајн суд во живо Бургас суд Окружен суд Бургас суд Бургас Окружен суд Бургас Окружен суд Бургас Окружен суд Бургас Обвинителство во Бургас Обвинителство во Бургас Окружно обвинителство во Бургас Окружно обвинителство во Бургас Окружно обвинителство во Бургас Окружно обвинителство во Бургас Окружно обвинителство во Бургас Окружно обвинителство во Бургас Окружно обвинителство во Бургас Окружно обвинителство во Бургас Генерален обвинител Иван Гешев Обвинител Гешев Цацаров Министерство за внатрешни работи Бургас ODMR Бургас ODPR Полиција во Бургас Окружна полиција Бургас Обвинителство во Бургас Цацаров Случаи на SGS Суд во Варна претседател на SGS судски одлуки за граѓански предмети одлуки за случаи Суд во Пловдив одлука на судските одлуки случаи Суд во Варна кривични предмети одлуки на окружниот суд работа во судот SGS претседател на SGS судии Софиски суд пост судии Суд во Пловдив судии во Пловдив Инспекторат на Врховниот суд во Пловдив Врховен суд Врховен суд Врховен судски совет адвокат кривични предмети адвокат граѓански предмети адвокат брачни случаи адвокат административно кривично право кривична постапка граѓанско право граѓанска постапка административно право уставно право
