ШІ як зброя в медійних суперечках: експерт попереджає про ризики «галюцинацій» та ідеологічних атак

В епоху швидкої технологічної трансформації звинувачення у використанні штучного інтелекту (ШІ) починають перетворюватися на новий інструмент медійних та ідеологічних атак. Лінгвіст і експерт із даних Нікола Тулечки прокоментував у ефірі БНР «Христо Ботев», як ці інструменти змінюють журналістику та якими є реальні ризики їхнього застосування.

ШІ як інструмент для дискредитації<>

За словами Тулечки, звинувачення на адресу журналістів у тому, що їхні тексти написані ШІ, часто не базуються на фактах, а слугують «проксі» для ідеологічних атак. Мета полягає не в тому, щоб довести відсутність авторства, а в тому, щоб підірвати довіру до медіа або конкретного колеги, атакуючи його здатність писати самостійно.

Як розпізнати машину в тексті?<>

Попри те, що програмні інструменти для виявлення ШІ-контенту часто є ненадійними, експерт вказує на специфічні стилістичні ознаки, які видають алгоритми:

• Бездоганна граматика та правопис: На відміну від людей, ШІ рідко припускається друкарських або граматичних помилок.
• Специфічна структура: Використання «інверсних антитез» (наприклад: «Це не просто текст, це початок нової ери»).
• Закручені речення: Машини часто використовують занадто гладкі, але іноді штучно структуровані фрази.

Ризик «галюцинацій» та редакційна відповідальність<>

Найбільша небезпека при використанні ШІ — це так звані «галюцинації»: ситуація, коли модель генерує повністю вигадані факти, імена, дати або джерела, представляючи їх із високим ступенем достовірності. Тулечки підкреслює, що це вимагає нової форми редакційної відповідальності.

«Людина стає своєрідним редактором того, що виробляє ШІ. Ми повинні нести повну відповідальність за фактологію, тому що машина не володіє контекстом сьогодення і може поєднувати дані з минулого неправильним чином», — зазначає він.

Майбутнє автоматизації<>

Замість того, щоб боротися з технологією, суспільство має навчитися використовувати її адекватно. Тулечки наводить приклад болгарськомовної Вікіпедії, де контрольоване використання ШІ дозволило згенерувати 600 високоякісних статей про біологічні види, тоді як неконтрольований потік машинного тексту створює зайву роботу для редакторів. Ключ полягає в оцінці якості та достовірності контенту, а не в самій наявності ШІ в процесі написання.