/КРОСС/ Изкуственият интелект генерира манипулирани изображения със сексуален характер и дори насилие над деца

Европейската комисия започна ново официално разследване срещу социалната мрежа „Екс" ("X") на Илон Мъск съгласно Законодателния акт за цифровите услуги (Digital Services Act, DSA), съобщи говорител на Еврокомисията. Разследването е насочено към спазването от страна на платформата на задълженията за управление на рисковете, свързани със системите ѝ за препоръчване.

Паралелно с това е разширено и текущото производство, открито през декември 2023 г.

Новото разследване ще оцени дали „Екс" е извършила адекватна оценка и е предприела достатъчни мерки за ограничаване на рисковете, свързани с вградения в платформата чатбот с изкуствен интелект „Грок" (Grok) в ЕС. Сред основните опасения са разпространението на незаконно съдържание, включително манипулирани изображения със сексуален характер и съдържание, което може да представлява материал със сексуално насилие над деца, като Еврокомисията посочва, че тези рискове вече изглежда са се осъществили.

Европейската комисия ще провери дали социалната мрежа е изпълнила задълженията си да оценява и смекчава системните рискове, както и дали е изготвила и предоставила предварителни адхок доклади за оценка на риска преди внедряването на „Грок". Също така е и удължено и разследването за въздействието на системите за препоръчване на „Екс", включително преминаването към модел, базиран на чатбота „Грок".

Разследването се провежда в тясно сътрудничество с Националния регулаторен орган на Ирландия - Комисия за съобщенията (Coimisiún na Meán), посочва Еврокомисията. Брюксел ще продължи да събира доказателства чрез искания за информация, интервюта и проверки, като при необходимост може да наложи временни мерки.

Като голяма онлайн платформа „Екс" има задължение да ограничава системните рискове за гражданите на ЕС, включително заплахите за основните права и защитата на малолетните и непълнолетните лица.