Поліція ЄС випустила офіційне попередження щодо потенційного зловживання чат-ботом на основі штучного інтелекту ChatGPT. Правоохоронці зазначають, що ШІ може використовуватися при спробах фішингу, інформаційно-психологічних операціях, поширенні дезінформації та сприянні кіберзлочинності.

З того часу, коли ChatGPT став доступний для всіх користувачів, конкуренти OpenAI витрачають чимало ресурсів, щоби запустити аналогічні продукти чи інтегрувати подібні технології у власні розробки. Європол не виключає, що цим вже користуються кіберзлочинці, створюючи зловмисне ПЗ.

"Оскільки можливості LLM (великих мовних моделей), таких як ChatGPT, активно вдосконалюються, потенційне використання цих типів систем штучного інтелекту злочинцями створює похмурі перспективи", — заявив Європол під час презентації свого першого технологічного звіту з аналізу ШІ.

У документі виокремлено шкідливе використання ChatGPT у чотирьох злочинних сферах:

• Здатність ChatGPT створювати текст, який непросто відрізнити від тексту живого автора, робить його корисним інструментом для фішингу.
• Завдяки здатності відтворювати мовні шаблони для імітації стилю мовлення конкретних осіб або груп, чат-бот може бути використаний злочинцями для втирання у довіру з метою завдання шкоди.
• Здатність ChatGPT швидко видавати автентичний текст також робить його ідеальним інструментом для пропаганди та дезінформації. «Це дозволяє користувачам генерувати та поширювати повідомлення, що відображають певний наратив, з відносно невеликими зусиллями», — підкреслили у Європолі.
• Злочинці з обмеженими технічними знаннями також можуть використовувати ChatGPT для створення шкідливого коду.

Оскільки найпопулярніший у світі чат-бот вже піддавався глобальним збоям, побоювання Європолу мають сенс. Нагадаємо — нещодавно ChatGPT помилково опублікував 1,2% платіжних даних своїх користувачів. У OpenAI розповіли, що витік стався через баг у сервісі з відкритим вихідним кодом Redis.