ChatGPT дає підліткам небезпечні поради про наркотики, самогубство і дієти

Adoption
Date
  • 314 Переглядів
Модель на основі штучного інтелекту ChatGPT може надавати неповнолітнім небезпечні поради – зокрема, як вживати алкоголь і наркотики, приховувати розлади харчової поведінки або навіть писати передсмертні записки.

92_6.jpg (20.9 Kb)


Про це заявили дослідники британсько-американського Центру протидії цифровій ненависті, які листувалися з чатботом, видаючи себе за вразливих підлітків.

Коли до чатбота зверталися з небезпечними запитами, спочатку він попереджав користувачів про загрозу, але потім давав детальні й персоналізовані плани, пов’язані з вживанням наркотиків, небезпечними дієтами або самоушкодженням.

Більше ніж половину з 1200 відповідей аналітики класифікували як небезпечні.

"Ми хотіли перевірити захисні механізми. Реакція була: "Боже, їх просто немає", – заявив керівник Центру протидії цифровій ненависті Імран Ахмед.

Чоловік розповів, що його найбільше шокували три варіанти передсмертних записок, створені ChatGPT для вигаданого профілю 13-річної дівчинки, з індивідуальними зверненнями до батьків, братів, сестер і друзів.

Дослідники також з’ясували, що навіть коли ChatGPT відмовлявся обговорювати шкідливі теми, можна було легко обійти цю заборону, пояснивши, що інформація потрібна "для презентації" або для друга.

У половині випадків чатбот сам пропонував додаткові матеріали – від музичних плейлистів для вечірки з наркотиками до гештегів, які збільшують охоплення постів, що романтизують селфхарм.

Нове дослідження також показало, що ChatGPT не перевіряє вік користувача чи згоду батьків, навіть якщо заявляє, що сервіс не призначений для дітей до 13 років.

Під час експерименту чатбот надав вигаданому 13-річному хлопцю детальний план поєднання алкоголю, екстазі, кокаїну та інших наркотиків на вечірці.

Іншому фейковому профілю 13-річної дівчинки, незадоволеної своєю зовнішністю, ChatGPT запропонував план екстремального голодування на 500 калорій на день у поєднанні з препаратами, що пригнічують апетит.

Експерти зазначили, що моделі ШІ мають схильність погоджуватися з думками користувача, а не заперечувати їх, оскільки навчені казати те, як люди хочуть чути. Це робить чатботи особливо небезпечними для підлітків.

ЧИТАЙТЕ ТАКОЖ:


    Теги: ChatGPT, поради, наркотики, самогубство, дієти, підлітки


    Система Orphus

    Цікаво також:


    Новини по темі

    Лікарі ізраїльського МОЗ попереджають батьків: тряска дітей може привести до серйозних пошкоджень їх мозку.

    Чому дитину не можна трусити?

    Дитина | 08:30, 29.11.2025

    Лікарі ізраїльського МОЗ попереджають батьків: тряска дітей може привести до серйозних пошкоджень їх мозку.

    Батькам варто навчити дітей деяких з найбільш ефективних методів релаксації, щоб допомогти їм управляти їх щоденними стресами. Тим самим ви дасте дітя

    10 кращих методів релаксації для дітей

    Дитина | 22:30, 28.11.2025

    Батькам варто навчити дітей деяких з найбільш ефективних методів релаксації, щоб допомогти їм управляти їх щоденними стресами. Тим самим ви дасте дітям необхідні інструменти, які будуть допомагати їм протягом усього життя.

    Є багато різних способів, до яких батьки можуть вдатися, щоби плавно пройти через конфлікт і провести через нього свою дитину, зберігаючи при цьому ві

    Як правильно спілкуватися з дитиною під час конфлікту?

    Сімейні справи | 21:30, 28.11.2025

    Є багато різних способів, до яких батьки можуть вдатися, щоби плавно пройти через конфлікт і провести через нього свою дитину, зберігаючи при цьому відкритими канали комунікативного зв'язку з нею. Ось кілька порад.

    Багато батьків іноді замислюються:

    Поради батькам від вихователів дитсадків

    Виховання | 20:30, 28.11.2025

    Багато батьків іноді замислюються: "чому дитина поводиться краще скрізь, тільки не вдома?" Відповідь проста: дитина перевіряє ваші особисті кордони, тому що вірить, що ви будете любити її, незважаючи ні на що. Але разом з тим ви можете використовуват

    Якщо в дитинстві ви зіштовхувалися з жорстокістю, зневагою або пережили емоційну травму, найімовірніше, ви відчуваєте серйозні наслідки такого негатив

    Наслідки емоційних травм у дитинстві

    Психологія | 19:30, 28.11.2025

    Якщо в дитинстві ви зіштовхувалися з жорстокістю, зневагою або пережили емоційну травму, найімовірніше, ви відчуваєте серйозні наслідки такого негативного досвіду в дорослому житті.

    Назальні судинозвужуючі краплі - ефективні та найбільш часто застосовувані препарати при симптоматичному лікуванні гострого риніту у дітей.

    Чим небезпечні краплі в ніс для дітей?

    Дитина | 23:30, 26.11.2025

    Назальні судинозвужуючі краплі - ефективні та найбільш часто застосовувані препарати при симптоматичному лікуванні гострого риніту у дітей.

    Спокійний нічний сон глибоко і неоціненно корисний для нашого фізичного та психічного здоров'я - під час сну відбувається більша частина нашого фізичн

    Регрес сну у дитини: що це?

    Дитина | 22:30, 26.11.2025

    Спокійний нічний сон глибоко і неоціненно корисний для нашого фізичного та психічного здоров'я - під час сну відбувається більша частина нашого фізичного та психічного розвитку, а наш мозок відпочиває та перезаряджається. Саме тому новонароджені спля

    Коментарі до новини