ChatGPT дає підліткам небезпечні поради про наркотики, самогубство і дієти

Adoption
Date
  • 611 Переглядів
Модель на основі штучного інтелекту ChatGPT може надавати неповнолітнім небезпечні поради – зокрема, як вживати алкоголь і наркотики, приховувати розлади харчової поведінки або навіть писати передсмертні записки.

92_6.jpg (20.9 Kb)


Про це заявили дослідники британсько-американського Центру протидії цифровій ненависті, які листувалися з чатботом, видаючи себе за вразливих підлітків.

Коли до чатбота зверталися з небезпечними запитами, спочатку він попереджав користувачів про загрозу, але потім давав детальні й персоналізовані плани, пов’язані з вживанням наркотиків, небезпечними дієтами або самоушкодженням.

Більше ніж половину з 1200 відповідей аналітики класифікували як небезпечні.

"Ми хотіли перевірити захисні механізми. Реакція була: "Боже, їх просто немає", – заявив керівник Центру протидії цифровій ненависті Імран Ахмед.

Чоловік розповів, що його найбільше шокували три варіанти передсмертних записок, створені ChatGPT для вигаданого профілю 13-річної дівчинки, з індивідуальними зверненнями до батьків, братів, сестер і друзів.

Дослідники також з’ясували, що навіть коли ChatGPT відмовлявся обговорювати шкідливі теми, можна було легко обійти цю заборону, пояснивши, що інформація потрібна "для презентації" або для друга.

У половині випадків чатбот сам пропонував додаткові матеріали – від музичних плейлистів для вечірки з наркотиками до гештегів, які збільшують охоплення постів, що романтизують селфхарм.

Нове дослідження також показало, що ChatGPT не перевіряє вік користувача чи згоду батьків, навіть якщо заявляє, що сервіс не призначений для дітей до 13 років.

Під час експерименту чатбот надав вигаданому 13-річному хлопцю детальний план поєднання алкоголю, екстазі, кокаїну та інших наркотиків на вечірці.

Іншому фейковому профілю 13-річної дівчинки, незадоволеної своєю зовнішністю, ChatGPT запропонував план екстремального голодування на 500 калорій на день у поєднанні з препаратами, що пригнічують апетит.

Експерти зазначили, що моделі ШІ мають схильність погоджуватися з думками користувача, а не заперечувати їх, оскільки навчені казати те, як люди хочуть чути. Це робить чатботи особливо небезпечними для підлітків.

ЧИТАЙТЕ ТАКОЖ:


    Теги: ChatGPT, поради, наркотики, самогубство, дієти, підлітки


    Система Orphus

    Цікаво також:


    Новини по темі

    Перший день народження дитини — це важливий психологічний та фізіологічний рубіж. У віці одного року малюк активно переходить від повзання до ходіння,

    Яку іграшку вибрати дитині на 1 рік: орієнтири для правильного розвитку

    Дитина | 22:39, 12.07.2026

    Перший день народження дитини — це важливий психологічний та фізіологічний рубіж. У віці одного року малюк активно переходить від повзання до ходіння, починає усвідомлювати причинно-наслідкові зв’язки та активно досліджує предмети на дотик, смак і зв

    Огляд досліджень, представлений в журналі The Lancet, показав, що фізичне покарання дітей неефективне для запобігання проблем з поведінкою. Замість ць

    Вчені: фізичні покарання небезпечні для дітей

    Дитина | 08:27, 11.07.2026

    Огляд досліджень, представлений в журналі The Lancet, показав, що фізичне покарання дітей неефективне для запобігання проблем з поведінкою. Замість цього воно провокує зростання проблем і інших несприятливих наслідків.

    Батьки часто хвилюються через нежить, кашель чи підвищену температуру. Однак існують симптоми, які лікарі називають “червоними прапорцями”. Саме вони

    Педіатр назвала небезпечні симптоми у дітей, які не можна ігнорувати

    Дитина | 09:39, 10.07.2026

    Батьки часто хвилюються через нежить, кашель чи підвищену температуру. Однак існують симптоми, які лікарі називають “червоними прапорцями”. Саме вони можуть сигналізувати про небезпечний стан, що потребує невідкладної медичної допомоги.

    Як лікувати хронічний тонзиліт у дитини потребує особливого підходу порівняно з дорослими пацієнтами, оскільки дитячий організм має свої анатомічні та

    Як лікувати хронічний тонзиліт у дитини: особливості підходу

    Дитина | 14:31, 07.07.2026

    Як лікувати хронічний тонзиліт у дитини потребує особливого підходу порівняно з дорослими пацієнтами, оскільки дитячий організм має свої анатомічні та імунологічні особливості, а саме рішення про можливе хірургічне видалення мигдаликів приймається зн

    Багато однорічних немовлят із задоволенням купаються, але оскільки вони, як правило, завеликі для дитячої ванни чи кухонної раковини, купати їх необхі

    Як правильно купати однорічну дитину

    Дитина | 12:46, 06.07.2026

    Багато однорічних немовлят із задоволенням купаються, але оскільки вони, як правило, завеликі для дитячої ванни чи кухонної раковини, купати їх необхідно у великій ванні. Це часто страшний процес для багатьох батьків, які мають першого малюка.

    Діти віком до двох років не повинні мати навмисного екранного часу, адже це може бути пов’язано з ризиками для розвитку, здоров’я та якості життя. До

    Дітям до двох років не варто давати смартфони й планшети - нове дослідження

    Дитина | 16:24, 05.07.2026

    Діти віком до двох років не повинні мати навмисного екранного часу, адже це може бути пов’язано з ризиками для розвитку, здоров’я та якості життя. До такого висновку дійшли автори масштабного огляду міжнародних досліджень.

    Страх темряви, монстрів під ліжком чи боязнь самотності — через це проходять майже всі діти. Проте звідки беруться ці фобії? Частково вони закодовані

    Генетика чи оточення: звідки беруться дитячі страхи і як їх «знешкодити»?

    Дитина | 08:30, 30.06.2026

    Страх темряви, монстрів під ліжком чи боязнь самотності — через це проходять майже всі діти. Проте звідки беруться ці фобії? Частково вони закодовані в нашій еволюційній пам'яті.

    Коментарі до новини