ChatGPT дає підліткам небезпечні поради про наркотики, самогубство і дієти

Adoption
Date
  • 681 Переглядів
Модель на основі штучного інтелекту ChatGPT може надавати неповнолітнім небезпечні поради – зокрема, як вживати алкоголь і наркотики, приховувати розлади харчової поведінки або навіть писати передсмертні записки.

92_6.jpg (20.9 Kb)


Про це заявили дослідники британсько-американського Центру протидії цифровій ненависті, які листувалися з чатботом, видаючи себе за вразливих підлітків.

Коли до чатбота зверталися з небезпечними запитами, спочатку він попереджав користувачів про загрозу, але потім давав детальні й персоналізовані плани, пов’язані з вживанням наркотиків, небезпечними дієтами або самоушкодженням.

Більше ніж половину з 1200 відповідей аналітики класифікували як небезпечні.

"Ми хотіли перевірити захисні механізми. Реакція була: "Боже, їх просто немає", – заявив керівник Центру протидії цифровій ненависті Імран Ахмед.

Чоловік розповів, що його найбільше шокували три варіанти передсмертних записок, створені ChatGPT для вигаданого профілю 13-річної дівчинки, з індивідуальними зверненнями до батьків, братів, сестер і друзів.

Дослідники також з’ясували, що навіть коли ChatGPT відмовлявся обговорювати шкідливі теми, можна було легко обійти цю заборону, пояснивши, що інформація потрібна "для презентації" або для друга.

У половині випадків чатбот сам пропонував додаткові матеріали – від музичних плейлистів для вечірки з наркотиками до гештегів, які збільшують охоплення постів, що романтизують селфхарм.

Нове дослідження також показало, що ChatGPT не перевіряє вік користувача чи згоду батьків, навіть якщо заявляє, що сервіс не призначений для дітей до 13 років.

Під час експерименту чатбот надав вигаданому 13-річному хлопцю детальний план поєднання алкоголю, екстазі, кокаїну та інших наркотиків на вечірці.

Іншому фейковому профілю 13-річної дівчинки, незадоволеної своєю зовнішністю, ChatGPT запропонував план екстремального голодування на 500 калорій на день у поєднанні з препаратами, що пригнічують апетит.

Експерти зазначили, що моделі ШІ мають схильність погоджуватися з думками користувача, а не заперечувати їх, оскільки навчені казати те, як люди хочуть чути. Це робить чатботи особливо небезпечними для підлітків.

ЧИТАЙТЕ ТАКОЖ:


    Теги: ChatGPT, поради, наркотики, самогубство, дієти, підлітки


    Система Orphus

    Цікаво також:


    Новини по темі

    Американські вчені з Національного інституту здоров'я проаналізували результати двох досліджень, у ході яких спостерігали за кількома сотнями вагітних

    Дослідження: У жінок, які п'ють каву під час вагітності, народжуються діти невеликого зросту

    Вагітність та пологи | 10:00, 18.08.2026

    Американські вчені з Національного інституту здоров'я проаналізували результати двох досліджень, у ході яких спостерігали за кількома сотнями вагітних жінок, а згодом ще вісім років за їхніми дітьми. Дослідники дійшли висновку, що вживання навіть пом

    При блюванні або діареї у дитини головний домашній ризик — зневоднення. Найпоширеніша помилка полягає в тому, щоб після блювання одразу дати велику ск

    Блювання або діарея у дитини: як правильно відпоювати маленькими порціями

    Дитина | 09:27, 18.08.2026

    При блюванні або діареї у дитини головний домашній ризик — зневоднення. Найпоширеніша помилка полягає в тому, щоб після блювання одразу дати велику склянку води: шлунок розтягується, і дитину може знудити знову. Краще працюють дуже маленькі, але част

    Кофеїн міститься не лише в енергетиках. Підліток може отримувати його з кави, холодних кавових напоїв, чаю, коли, шоколаду та спортивних добавок. Якщо

    Кава підліткам: чому кофеїн може впливати не лише на сон

    Дитина | 08:50, 17.08.2026

    Кофеїн міститься не лише в енергетиках. Підліток може отримувати його з кави, холодних кавових напоїв, чаю, коли, шоколаду та спортивних добавок. Якщо ці джерела поєднуються протягом одного дня, сумарна доза легко стає значно більшою, ніж здається.

    У спеку батькам може здаватися, що немовляті обов’язково потрібна додаткова вода, але для дітей на виключно грудному вигодовуванні в перші шість місяц

    Чи можна давати воду немовляті у спеку: що радить МОЗ батькам

    Дитина | 22:59, 14.08.2026

    У спеку батькам може здаватися, що немовляті обов’язково потрібна додаткова вода, але для дітей на виключно грудному вигодовуванні в перші шість місяців це не потрібно. МОЗ України наголошує: грудне молоко забезпечує дитину не лише поживними речовина

    Американські науковці з кількох провідних установ завершили масштабні клінічні дослідження препарату на основі фториду діаміну срібла, який здатний зу

    Вчені придумали засіб який за 10 секунд зупиняє карієс у дітей

    Дитина | 09:25, 14.08.2026

    Американські науковці з кількох провідних установ завершили масштабні клінічні дослідження препарату на основі фториду діаміну срібла, який здатний зупинити розвиток важкого карієсу у дітей лише за 10 секунд без застосування бормашини чи анестезії.

    Ароматна яскрава диня влітку так і проситься до дитячої тарілки. Та перш ніж пригостити нею малюка, варто зважити на кілька важливих нюансів вибору, п

    Чим корисна диня для дитини: з якого віку і як давати

    Дитина | 11:19, 13.08.2026

    Ароматна яскрава диня влітку так і проситься до дитячої тарілки. Та перш ніж пригостити нею малюка, варто зважити на кілька важливих нюансів вибору, подачі та зберігання.

    Звичні дитячі інфекції в усьому світі стає дедалі важче лікувати. Масштабне міжнародне дослідження засвідчило, що стійкість бактерій до антибіотиків с

    Стійкість до антибіотиків у дітей зростає по всьому світу

    Дитина | 19:29, 11.08.2026

    Звичні дитячі інфекції в усьому світі стає дедалі важче лікувати. Масштабне міжнародне дослідження засвідчило, що стійкість бактерій до антибіотиків серед дітей зростає, а деякі життєво важливі препарати поступово втрачають свою ефективність.

    Коментарі до новини