ChatGPT дає підліткам небезпечні поради про наркотики, самогубство і дієти

Adoption
Date
  • 362 Переглядів
Модель на основі штучного інтелекту ChatGPT може надавати неповнолітнім небезпечні поради – зокрема, як вживати алкоголь і наркотики, приховувати розлади харчової поведінки або навіть писати передсмертні записки.

92_6.jpg (20.9 Kb)

Про це заявили дослідники британсько-американського Центру протидії цифровій ненависті, які листувалися з чатботом, видаючи себе за вразливих підлітків.

Коли до чатбота зверталися з небезпечними запитами, спочатку він попереджав користувачів про загрозу, але потім давав детальні й персоналізовані плани, пов’язані з вживанням наркотиків, небезпечними дієтами або самоушкодженням.

Більше ніж половину з 1200 відповідей аналітики класифікували як небезпечні.

"Ми хотіли перевірити захисні механізми. Реакція була: "Боже, їх просто немає", – заявив керівник Центру протидії цифровій ненависті Імран Ахмед.

Чоловік розповів, що його найбільше шокували три варіанти передсмертних записок, створені ChatGPT для вигаданого профілю 13-річної дівчинки, з індивідуальними зверненнями до батьків, братів, сестер і друзів.

Дослідники також з’ясували, що навіть коли ChatGPT відмовлявся обговорювати шкідливі теми, можна було легко обійти цю заборону, пояснивши, що інформація потрібна "для презентації" або для друга.

У половині випадків чатбот сам пропонував додаткові матеріали – від музичних плейлистів для вечірки з наркотиками до гештегів, які збільшують охоплення постів, що романтизують селфхарм.

Нове дослідження також показало, що ChatGPT не перевіряє вік користувача чи згоду батьків, навіть якщо заявляє, що сервіс не призначений для дітей до 13 років.

Під час експерименту чатбот надав вигаданому 13-річному хлопцю детальний план поєднання алкоголю, екстазі, кокаїну та інших наркотиків на вечірці.

Іншому фейковому профілю 13-річної дівчинки, незадоволеної своєю зовнішністю, ChatGPT запропонував план екстремального голодування на 500 калорій на день у поєднанні з препаратами, що пригнічують апетит.

Експерти зазначили, що моделі ШІ мають схильність погоджуватися з думками користувача, а не заперечувати їх, оскільки навчені казати те, як люди хочуть чути. Це робить чатботи особливо небезпечними для підлітків.

ЧИТАЙТЕ ТАКОЖ:


    Теги: ChatGPT, поради, наркотики, самогубство, дієти, підлітки


    Система Orphus

    Цікаво також:


    Новини по темі

    Чи замислювалися ви коли-небудь над тим, що слово «повага» — це всього лише абстракція, яку дитина не розуміє? Чи, можливо, ми, дорослі, самі часом не

    Чому діти не виявляють до вас поваги?

    Дитина | 00:30, 19.01.2026

    Чи замислювалися ви коли-небудь над тим, що слово «повага» — це всього лише абстракція, яку дитина не розуміє? Чи, можливо, ми, дорослі, самі часом не до кінця усвідомлюємо, чого саме вимагаємо? Чому діти нібито не виявляють поваги та що насправді за

    Відучити значно важче, ніж привчити. Вже зараз лікарі наголошують на фактичній ломці у дітей із вираженою цифровою залежністю. Дитяча лікарка-невролог

    Як ґаджети впливають на розвиток нервової системи дитини?

    Розвиток дитини | 21:30, 18.01.2026

    Відучити значно важче, ніж привчити. Вже зараз лікарі наголошують на фактичній ломці у дітей із вираженою цифровою залежністю. Дитяча лікарка-неврологиня Ольга Топоркова розповіла в одному зі своїх відео, як використання ґаджетів дітьми впливає на ро

    Замість розпачу важливо зрозуміти: така поведінка є не ознакою байдужості чи лінощів, а сигналом, що потрібно змінити підхід. Рішенням може стати розв

    Що робити, якщо дитина не фокусує увагу на предметі?

    Дитина | 20:30, 18.01.2026

    Замість розпачу важливо зрозуміти: така поведінка є не ознакою байдужості чи лінощів, а сигналом, що потрібно змінити підхід. Рішенням може стати розвиток навички, яка називається «комунікативною діяльністю». Про це розповіла педіатриня Marissa Penny

    У сучасному світі, де турбота про дитину дедалі частіше асоціюється з намаганням зробити її життя максимально комфортним, багато батьків потрапляють у

    Як батьківська поблажливість шкодить дітям?

    Сімейні справи | 19:30, 18.01.2026

    У сучасному світі, де турбота про дитину дедалі частіше асоціюється з намаганням зробити її життя максимально комфортним, багато батьків потрапляють у пастку поблажливого виховання. Здається, що любов — це потурання всім бажанням, уникнення «ні» та с

    Чимало сучасних батьків живуть з постійним тиском — бути турботливими, послідовними, терплячими, і все це — без втоми чи збоїв. Але що, як справжній к

    "Секретний рецепт" виховання дітей

    Виховання | 08:30, 18.01.2026

    Чимало сучасних батьків живуть з постійним тиском — бути турботливими, послідовними, терплячими, і все це — без втоми чи збоїв. Але що, як справжній ключ до глибокого зв’язку з дитиною — не в черговому підручнику з дитячої психології, а в умінні дурк

    Невже підвищений тон автоматично робить вас «поганим» батьком або матір’ю? На це запитання спробувала відповісти клінічна психологиня Emily Edlynn.

    Цікава правда про батьків, які звикли кричати на своїх дітей

    Сімейні справи | 07:30, 18.01.2026

    Невже підвищений тон автоматично робить вас «поганим» батьком або матір’ю? На це запитання спробувала відповісти клінічна психологиня Emily Edlynn.

    Це природне явище, яке зумовлене не сексуальністю у дорослому розумінні, а пізнанням свого тіла та реакцій організму. Діти досліджують себе, відкриваю

    Дитяча мастурбація: як батькам правильно реагувати?

    Секс | 06:30, 18.01.2026

    Це природне явище, яке зумовлене не сексуальністю у дорослому розумінні, а пізнанням свого тіла та реакцій організму. Діти досліджують себе, відкривають нові відчуття, вчаться заспокоюватися та отримувати задоволення без будь-якого сексуального підте

    Коментарі до новини