EN BG

Неутралната машина

Зададе въпрос. Изкуственият интелект ти даде спокоен, балансиран, добре аргументиран отговор. Приличаше на истина. Не беше. Беше консенсус — а това е съвсем различно нещо.

Езиковите модели се обучават върху интернет — което означава, че поглъщат всичко, което интернет третира като мейнстрийм. Официалните източници получават повече тежест. Уикипедия получава повече тежест. Големите медии получават повече тежест. Инакомислещи учени, независими журналисти, алтернативни гледни точки — те са статистически по-слабо представени в данните за обучение и затова са статистически по-слабо представени в отговорите. Машината не ги потиска нарочно. Просто е научила, че масовият глас е гласът по подразбиране.

После идва настройката за безопасност. Компаниите, които строят тези системи, се ужасяват от скандали — съдебни дела, заглавия, регулаторен натиск. Затова изкуственият интелект е обучен да заобикаля, да се позовава на авторитети, да казва „според експертите" и „според официалните източници". По всяка чувствителна тема — политика, здраве, наука, религия — той се оттегля в грижливо одобрен език. Не защото е преценил доказателствата. Защото е обучен да избягва риск. Резултатът е информационен слой, който систематично облагодетелства институционалния наратив, докато изглежда, че няма никакво мнение.

И ето какво го прави различен от медиите: хората вярват на изкуствения интелект повече. Вестникът си има известна позиция. Търсачката ти показва връзки, които можеш да оцениш. Но изкуственият интелект ти дава един-единствен, уверен, привидно неутрален отговор — и повечето хора спират да търсят. Информационният балон се свива. Позоваването на авторитет става невидимо. А пристрастието е по-трудно за забелязване, защото няма редактор, когото да обвиниш, няма автор, когото да провериш, няма собственик, когото да разследваш. Само машина, която звучи сякаш мисли, обучена върху свят, който вече беше изкривен, преди тя да се научи да говори.

Препратки