/КРОСС/ Технологичният сектор засилва предупрежденията си относно рисковете, свързани с безопасността на изкуствения интелект. Президентът на Microsoft Брад Смит обяви, че в момента технологията подлежи на значително по-слаб регулаторен контрол от масовите домакински уреди и основните хранителни продукти.

В интервю за BBC Смит направи директно сравнение между софтуерната индустрия и традиционния пазар: „В момента вашата пералня подлежи на повече правила за безопасност, отколкото изкуственият интелект. Всяка кутия мляко в хранителния магазин преминава през строги инспекции и стандарти за контрол", посочи той.

Смит подчерта, че AI притежава потенциала да бъде едновременно мощен инструмент и опасно оръжие, което налага спешно въвеждане на регулации. Той призова за разработването на задължителни механизми за аварийно изключване (т.нар. „kill switches"), които да спрат или забавят системите при загуба на контрол, както и за юридическа отговорност към потърпевшите лица в случаи на пробиви от автономни AI агенти.

Към призивите за по-строг контрол се присъедини и главният изпълнителен директор на Microsoft Сатя Надела. Той акцентира върху необходимостта от създаване на прозрачни и ограничени системи: „Не можем да третираме свръхинтелигентността като набор от затворени черни кутии и сляпо да приемаме или отхвърляме нейните препоръки и действия. Длъжни сме да изграждаме системи, чието поведение можем да наблюдаваме, чиито лимити можем да тестваме и чиито действия винаги можем да удържим", каза той цитиран от The Guardian.

„Не можем да третираме свръхинтелигентността като набор от затворени черни кутии и сляпо да приемаме или отхвърляме нейните препоръки и действия. Длъжни сме да изграждаме системи, чието поведение можем да наблюдаваме, чиито лимити можем да тестваме и чиито действия винаги можем да удържим", посочи Надела.

Предупрежденията от страна на водещи компании като Anthropic, Google DeepMind и OpenAI идват на фона на готвени нови регулации във Великобритания. Очаква се британският министър по въпросите на изкуствения интелект Канишка Нараян да призове създателите на съвременни модели да засилят защитните механизми и мерките за управление на риска, докато правителството подготвя ново законодателство за надзор.

Експертите алармират и за рискове от международен мащаб. Джефри Ървинг, бивш главен учен в Британския институт за сигурност на AI, коментира, че лабораториите все още не разполагат с надеждна защита срещу евентуална кражба на най-мощните софтуерни модели от враждебни държави.

Същевременно примерите за непредсказуемо поведение на изкуствения интелект зачестяват.

Наскоро компанията Anthropic разкри, че по време на вътрешни тестове на модела Claude, системата се е свързала самостоятелно с полицейските власти, като фалшиво е заявила, че може да помогне за разрешаването на убийство.