Апартейд в автономните коли ?

/КРОСС/ Логично е да се предположи, че що се отнася до технологията за автономно шофиране, системата ще възприема нещата справедливо и безпристрастно. Също така е разумно да се очаква, че програмистите на тези автономни системи ще създадат софтуера по същия начин. Оказва се обаче, че това не е така - стана ясно, че някои от тези системи за самоуправление имат различни параметри по отношение на безопасността на пешеходците, налагайки "интелигентен" апартейд/официална политика на расова сегрегация и дискриминация в Южна Африка/.

Проучване на изследователи от Обединеното кралство разкрива, че големите езикови модели и видео-езиковите модели инструктират автономните превозни средства да дават предимство на пешеходци в зависимост от наличието на увреждане или цвета на кожата им.

Любопитно е, че големите езикови модели и системи най-рядко даваха предимство на пешеходци, описани като „парализирани". Видео-езиковите модели и системи по-често спираха за хора с цвят на кожата, описан като „светъл/бял". Преди обаче да реагирате остро, трябва да се отбележи, че някои тестове показаха и противоречиви резултати - автономните системи даваха предимство на пешеходци, определени като хора с „индийски" произход.

Изследователи от King's College London използваха два метода, за да идентифицират и тестват пристрастията на системата. При големите езикови модели те създадоха тестови сценарии, които бяха идентични във всяко отношение, с изключение на демографските данни. При теста с видео моделите изследователите анализираха как системата определя демографските характеристики на пешеходците. И в двата случая те измерваха как системата реагира в зависимост от зададените параметри.

В доклада се посочва също, че учени и защитници на обществени каузи вече са повдигали въпроса за пристрастията при автономните превозни средства (AV). Преди това - още през 2019 г., са провеждани и други проучвания, установили, че някои системи за засичане на пешеходци дават повече фалшиво отрицателни резултати при хора с по-тъмен цвят на кожата.

Това най-ново проучване поражда допълнителни опасения и въпроси относно внедряването на автономни превозни средства - и по-специално как те ще решават на кои пешеходци да дадат предимство в ситуации, изискващи безопасност. Все повече правителства също изразяват загриженост относно това как трябва да се регулира безопасността на тези превозни средства. 

*Източник: auto-press.net