ChatGPT дає підліткам небезпечні поради про наркотики, самогубство і дієти

Adoption
Date
  • 267 Переглядів
Модель на основі штучного інтелекту ChatGPT може надавати неповнолітнім небезпечні поради – зокрема, як вживати алкоголь і наркотики, приховувати розлади харчової поведінки або навіть писати передсмертні записки.

92_6.jpg (20.9 Kb)

Про це заявили дослідники британсько-американського Центру протидії цифровій ненависті, які листувалися з чатботом, видаючи себе за вразливих підлітків.

Коли до чатбота зверталися з небезпечними запитами, спочатку він попереджав користувачів про загрозу, але потім давав детальні й персоналізовані плани, пов’язані з вживанням наркотиків, небезпечними дієтами або самоушкодженням.

Більше ніж половину з 1200 відповідей аналітики класифікували як небезпечні.

"Ми хотіли перевірити захисні механізми. Реакція була: "Боже, їх просто немає", – заявив керівник Центру протидії цифровій ненависті Імран Ахмед.

Чоловік розповів, що його найбільше шокували три варіанти передсмертних записок, створені ChatGPT для вигаданого профілю 13-річної дівчинки, з індивідуальними зверненнями до батьків, братів, сестер і друзів.

Дослідники також з’ясували, що навіть коли ChatGPT відмовлявся обговорювати шкідливі теми, можна було легко обійти цю заборону, пояснивши, що інформація потрібна "для презентації" або для друга.

У половині випадків чатбот сам пропонував додаткові матеріали – від музичних плейлистів для вечірки з наркотиками до гештегів, які збільшують охоплення постів, що романтизують селфхарм.

Нове дослідження також показало, що ChatGPT не перевіряє вік користувача чи згоду батьків, навіть якщо заявляє, що сервіс не призначений для дітей до 13 років.

Під час експерименту чатбот надав вигаданому 13-річному хлопцю детальний план поєднання алкоголю, екстазі, кокаїну та інших наркотиків на вечірці.

Іншому фейковому профілю 13-річної дівчинки, незадоволеної своєю зовнішністю, ChatGPT запропонував план екстремального голодування на 500 калорій на день у поєднанні з препаратами, що пригнічують апетит.

Експерти зазначили, що моделі ШІ мають схильність погоджуватися з думками користувача, а не заперечувати їх, оскільки навчені казати те, як люди хочуть чути. Це робить чатботи особливо небезпечними для підлітків.

ЧИТАЙТЕ ТАКОЖ:


    Теги: ChatGPT, поради, наркотики, самогубство, дієти, підлітки


    Система Orphus

    Цікаво також:


    Новини по темі

    Сімейний психолог і сексолог Ольга Гома відповіла на найпоширеніші запитання батьків про статеве виховання, зокрема, про початок менструації.

    Коли батькам починати розмову з дочкою про місячні?

    Дитина | 06:20, 12.10.2025

    Сімейний психолог і сексолог Ольга Гома відповіла на найпоширеніші запитання батьків про статеве виховання, зокрема, про початок менструації.

    Дітям не рекомендується їсти ковбасу через високий вміст шкідливих добавок, таких як консерванти (зокрема, нітрит натрію), трансжири та надлишок солі,

    Чому медики не рекомендують їсти ковбасу дітям?

    Дитяче харчування | 12:10, 11.10.2025

    Дітям не рекомендується їсти ковбасу через високий вміст шкідливих добавок, таких як консерванти (зокрема, нітрит натрію), трансжири та надлишок солі, які підвищують ризик розвитку раку та серцево-судинних захворювань. Крім того, ковбаса поступається

    Втома у школярів – часта проблема через сучасні шкільні навантаження. Уроки, контрольні, домашні завдання та гуртки виснажують дитину не лише фізично,

    Як впоратися зі втомою у школяра: поради психолога

    Дитина | 11:20, 10.10.2025

    Втома у школярів – часта проблема через сучасні шкільні навантаження. Уроки, контрольні, домашні завдання та гуртки виснажують дитину не лише фізично, а й емоційно. Як допомогти малечі залишатися активною? Для вас поради психологів.

    Діагностика аутизму часто починається з раннього втручання. Аутистичний спектр може бути ідентифікований дуже рано, але офіційно діагноз зазвичай став

    В якому віці можна запідозрити аутизм у дитини?

    Патологія | 17:09, 09.10.2025

    Діагностика аутизму часто починається з раннього втручання. Аутистичний спектр може бути ідентифікований дуже рано, але офіційно діагноз зазвичай ставиться не раніше, ніж дитині виповнюється три роки. До цього віку, ми можемо давати можливість батька

    Ангіна — це неприємне захворювання, яке може суттєво ускладнити повсякденне життя. Проте, деякі народні методи можуть допомогти полегшити симптоми та

    Чи можливо вилікувати ангіну у дитини народними методами?

    Хвороби | 09:30, 09.10.2025

    Ангіна — це неприємне захворювання, яке може суттєво ускладнити повсякденне життя. Проте, деякі народні методи можуть допомогти полегшити симптоми та сприяти швидшому одужанню. Ангіна часто супроводжується болями у горлі, високою температурою та зага

    Гіперактивність у дітей — поширене явище, яке викликає занепокоєння як у батьків, так і у педагогів. Надмірна рухливість, постійне бажання змінювати в

    Гіперактивність у дитини: коли варто звернутися до невропатолога?

    Дитина | 08:30, 09.10.2025

    Гіперактивність у дітей — поширене явище, яке викликає занепокоєння як у батьків, так і у педагогів. Надмірна рухливість, постійне бажання змінювати вид діяльності, труднощі з концентрацією уваги можуть виглядати як звичайна енергійність, але інколи

    Аналіз калу дитині показаний при симптомах проблем з травленням (діарея, запор, здуття, болі в животі), наявності слизу, крові чи гною у випорожненнях

    Коли справді потрібно здавати аналіз калу дитині?

    Профілактика і лікування | 08:30, 07.10.2025

    Аналіз калу дитині показаний при симптомах проблем з травленням (діарея, запор, здуття, болі в животі), наявності слизу, крові чи гною у випорожненнях, нудоті, блюванні, різкому зниженні ваги, а також для діагностики паразитів (гельмінтів) та дисбакт

    Коментарі до новини