ChatGPT дає підліткам небезпечні поради про наркотики, самогубство і дієти

Adoption
Date
  • 482 Переглядів
Модель на основі штучного інтелекту ChatGPT може надавати неповнолітнім небезпечні поради – зокрема, як вживати алкоголь і наркотики, приховувати розлади харчової поведінки або навіть писати передсмертні записки.

92_6.jpg (20.9 Kb)

Про це заявили дослідники британсько-американського Центру протидії цифровій ненависті, які листувалися з чатботом, видаючи себе за вразливих підлітків.

Коли до чатбота зверталися з небезпечними запитами, спочатку він попереджав користувачів про загрозу, але потім давав детальні й персоналізовані плани, пов’язані з вживанням наркотиків, небезпечними дієтами або самоушкодженням.

Більше ніж половину з 1200 відповідей аналітики класифікували як небезпечні.

"Ми хотіли перевірити захисні механізми. Реакція була: "Боже, їх просто немає", – заявив керівник Центру протидії цифровій ненависті Імран Ахмед.

Чоловік розповів, що його найбільше шокували три варіанти передсмертних записок, створені ChatGPT для вигаданого профілю 13-річної дівчинки, з індивідуальними зверненнями до батьків, братів, сестер і друзів.

Дослідники також з’ясували, що навіть коли ChatGPT відмовлявся обговорювати шкідливі теми, можна було легко обійти цю заборону, пояснивши, що інформація потрібна "для презентації" або для друга.

У половині випадків чатбот сам пропонував додаткові матеріали – від музичних плейлистів для вечірки з наркотиками до гештегів, які збільшують охоплення постів, що романтизують селфхарм.

Нове дослідження також показало, що ChatGPT не перевіряє вік користувача чи згоду батьків, навіть якщо заявляє, що сервіс не призначений для дітей до 13 років.

Під час експерименту чатбот надав вигаданому 13-річному хлопцю детальний план поєднання алкоголю, екстазі, кокаїну та інших наркотиків на вечірці.

Іншому фейковому профілю 13-річної дівчинки, незадоволеної своєю зовнішністю, ChatGPT запропонував план екстремального голодування на 500 калорій на день у поєднанні з препаратами, що пригнічують апетит.

Експерти зазначили, що моделі ШІ мають схильність погоджуватися з думками користувача, а не заперечувати їх, оскільки навчені казати те, як люди хочуть чути. Це робить чатботи особливо небезпечними для підлітків.

ЧИТАЙТЕ ТАКОЖ:


    Теги: ChatGPT, поради, наркотики, самогубство, дієти, підлітки


    Система Orphus

    Цікаво також:


    Новини по темі

    Оніхокриптоз або врослий ніготь у дитини – поширена проблема, яка потребує хірургічного лікування та обов’язкового налагодження гігієни нігтів з метою

    Врослий ніготь у дитини – що робити?

    Дитина | 19:30, 21.04.2026

    Оніхокриптоз або врослий ніготь у дитини – поширена проблема, яка потребує хірургічного лікування та обов’язкового налагодження гігієни нігтів з метою профілактики рецидиву. Несвоєчасна діагностика посилює патологію, і може призвести до тривалого лік

    Цукровий діабет у дитини проявляється так само, як і у дорослої людини. Він може дебютувати у будь-якому віці, навіть у немовлят, але найчастіше прояв

    Як розпізнати цукровий діабет у дитини?

    Хвороби | 08:30, 21.04.2026

    Цукровий діабет у дитини проявляється так само, як і у дорослої людини. Він може дебютувати у будь-якому віці, навіть у немовлят, але найчастіше проявляється у підлітків. Переважно у дітей виявляють цукровий діабет 1 типу, тобто інсулінозалежний. У д

    Часті головні болі у дитини – серйозна причина звернутися до невролога. Як правило, їх викликають спазми судин головного мозку, біль напруги та стреси

    Часті головні болі у дитини: що робити?

    Хвороби | 07:30, 21.04.2026

    Часті головні болі у дитини – серйозна причина звернутися до невролога. Як правило, їх викликають спазми судин головного мозку, біль напруги та стреси. Однак можуть бути й інші причини, що вимагають відповідного лікування та спостереження лікаря.

    Зазвичай репеленти можна наносити на дитячу шкіру починаючи з 2 років. Застосування засобів проти комах у більш ранньому віці потрібно обговорити зі с

    Репеленти для дітей: як використовувати?

    Дитина | 06:30, 21.04.2026

    Зазвичай репеленти можна наносити на дитячу шкіру починаючи з 2 років. Застосування засобів проти комах у більш ранньому віці потрібно обговорити зі своїм лікарем-педіатром. Шкіра дитини за своїми властивостями та будовою відрізняється від шкіри доро

    ЛОР-лікарка для дітей та дорослих Катерина Руда розповідає про вазомоторний риніт – набряк слизової оболонки носа, який може виникати через обмінні по

    Закладеність носа у дітей вранці: що це може бути та як лікувати?

    Хвороби | 01:30, 21.04.2026

    ЛОР-лікарка для дітей та дорослих Катерина Руда розповідає про вазомоторний риніт – набряк слизової оболонки носа, який може виникати через обмінні порушення, гормональні зміни тощо.

    Часте сечовипускання у дитини (полакіурія) може бути викликане стресом, змінами в житті (садок/школа) або функціональними змінами, коли дитина пісяє ч

    Дитина часто бігає в туалет: у чому причина?

    Дитина | 00:30, 21.04.2026

    Часте сечовипускання у дитини (полакіурія) може бути викликане стресом, змінами в житті (садок/школа) або функціональними змінами, коли дитина пісяє часто, але малими порціями, при цьому почувається добре. Якщо при цьому є біль, підвищена температура

    Коли навесні сусідська дитина радісно грається в парку, а ваш малюк сидить вдома з червоними очима і закладеним носом - це не просто невдача. За даним

    Сезонна алергія у дітей: що робити?

    Алергія | 07:30, 18.04.2026

    Коли навесні сусідська дитина радісно грається в парку, а ваш малюк сидить вдома з червоними очима і закладеним носом - це не просто невдача. За даними американських дослідників, кожна п'ята дитина страждає від сезонної алергії, і ця цифра продовжує

    Коментарі до новини