Чимало людей сьогодні почали покладатися на новий авторитет – думку чат-ботів ШІ, в яких можна запитувати про все: від політики до навчальних тестів. Але тут нас підстерігають ті ж самі маніпуляції та пропаганда, лише замасковані думкою “незалежного” штучного інтелекту, який насправді своєї думки не має.
Декотрі люди, втомилися шукати у Google десятки варіантів відповіді на їхнє запитання, а хочуть отримати якусь одну, часто без огляду на те, ким і як саме ця думка сформована і хто впливає на відповіді чат-бота. Чатботи стають основним джерелом інформації для багатьох людей, проте ШІ-системи не вміють відрізняти правду від дезінформації
До прикладу, лише за рік російська мережа «Правда» запостила щонайменше 207 доведених фейків пов’язаних з Україною в 3,6 мільйона статей, які потрапили у провідні ШІ-чатботи від: Microsoft, Google, OpenAI, xAI, Meta, Anthropic, Mistral, Perplexity та You. com.
Російська мережа систематично поширює дезінформацію десятками мов у різних географічних регіонах. Мережа володіє понад 150 сайтами з яких– 40 російською, які публікуються під доменними іменами, орієнтованими на конкретні міста та регіони України.
– 70 сайтів орієнтовані на Європу та використовують англійську, французьку, чеську, ірландську та фінську.
– 30 сайтів націлені на країни Африки, Тихого океану, Близького Сходу, Північної Америки, Кавказу та Азії.
Ці фейки мають на меті маніпулювати суспільною думкою, поширюючи спотворену інформацію про події, зокрема, в Україні. Росія створила великий інформаційний простір, де активно працюють численні сайти для різних цільових аудиторій. Латентні російські сайти часто публікують новини, що мають на меті підривати довіру до українських та західних інституцій, підтримуючи російські наративи про ситуацію в Україні.
Як ШІ-чатботи стають жертвами дезінформації
ШІ-чатботи, такі як ChatGPT від OpenAI та десятки інших швидко стали основними джерелами інформації для мільйонів користувачів. Вони аналізують величезні масиви даних з інтернету та надають відповіді на запити, використовуючи наявні знання. Однак ці системи мають серйозні вади в здатності відрізняти правду від брехні.
Майже всі сучасні ШІ-чатботи не мають достатньої здатності до критичного аналізу та верифікації джерел, з яких вони отримують інформацію. Вони покладаються на велику кількість публічних текстів, що можуть містити як фактичну інформацію, так і фейкові новини. Якщо в цих масивах даних переважають маніпулятивні матеріали, чатбот може відтворювати їх, надаючи коректні на перший погляд, але дезінформовані відповіді.
Основним викликом для розробників ШІ є здатність чатботів забезпечити точність інформації. Хоча більшість таких систем здатні генерувати тексти на основі величезних баз знань, їхня здатність визначати, яка інформація є правдою, а яка — фейком, значно обмежена. Тому користувачі можуть отримати відповіді, що містять елементи маніпуляцій або навіть явної дезінформації, що може мати серйозні наслідки.
Для прикладу, користувач може запитати чатбота про поточні події в Україні, і система може повернути відповідь, яка спотворює реальність або навіть видає російські пропагандистські наративи за факти. Це може сприяти формуванню упередженого ставлення до ситуації, підривати підтримку міжнародних ініціатив або навіть впливати на політичні рішення.
Як протидіяти пропаганді через ШІ
Для того щоб зменшити вплив дезінформації, наданої через ШІ-чатботи, необхідно розробляти спеціалізовані методи верифікації інформації, а також удосконалювати алгоритми, які здатні відрізняти правду від брехні. Можливим рішенням, яке залежить великою мірою від корпорацій можуть бути:
- Співпраця ШІ з фактчекінговими системами: Розробка системи, яка дозволяє чатботам взаємодіяти з перевіреними джерелами та отримувати підтверджену інформацію в режимі реального часу.
- Навчання чатботів на перевірених даних: Важливо тренувати ШІ на даних, що пройшли перевірку фактів, щоб вони могли краще розпізнавати фейкові новини та контекстуальні маніпуляції.
- Прозорість алгоритмів: Покращення прозорості алгоритмів роботи чатботів дозволить зрозуміти, на яких джерелах базуються їхні відповіді та як вони визначають їхню достовірність.
Важливо усвідомлювати, що ШІ-чатботи є не носіями істини, а лише сліпими до правди автоматизованими системами, котрі зачерпують зі світового інформаційного простору найпопулярніші новини. Іншими словами, ШІ просто повторює те, що кажуть інші люди в Інтернеті, серед яких є чимало пропагандистів, маніпуляторів, неосвічених блогерів, поширювачів реклами і тд. ШІ просто збирає це інформаційне сміття до купи з усім підібраним окрім цього – і вдає нам. ШІ-чатботи, хоч і є потужними інструментами для поширення знань, також можуть стати каналами для маніпуляцій. А ефективних розроблених систем контролю за точністю інформації для ШІ поки що не має.
Залишити відповідь