ChatGPT дає підліткам небезпечні поради про наркотики, самогубство і дієти

Adoption
Date
  • 41 Переглядів
Модель на основі штучного інтелекту ChatGPT може надавати неповнолітнім небезпечні поради – зокрема, як вживати алкоголь і наркотики, приховувати розлади харчової поведінки або навіть писати передсмертні записки.

92_6.jpg (20.9 Kb)

Про це заявили дослідники британсько-американського Центру протидії цифровій ненависті, які листувалися з чатботом, видаючи себе за вразливих підлітків.

Коли до чатбота зверталися з небезпечними запитами, спочатку він попереджав користувачів про загрозу, але потім давав детальні й персоналізовані плани, пов’язані з вживанням наркотиків, небезпечними дієтами або самоушкодженням.

Більше ніж половину з 1200 відповідей аналітики класифікували як небезпечні.

"Ми хотіли перевірити захисні механізми. Реакція була: "Боже, їх просто немає", – заявив керівник Центру протидії цифровій ненависті Імран Ахмед.

Чоловік розповів, що його найбільше шокували три варіанти передсмертних записок, створені ChatGPT для вигаданого профілю 13-річної дівчинки, з індивідуальними зверненнями до батьків, братів, сестер і друзів.

Дослідники також з’ясували, що навіть коли ChatGPT відмовлявся обговорювати шкідливі теми, можна було легко обійти цю заборону, пояснивши, що інформація потрібна "для презентації" або для друга.

У половині випадків чатбот сам пропонував додаткові матеріали – від музичних плейлистів для вечірки з наркотиками до гештегів, які збільшують охоплення постів, що романтизують селфхарм.

Нове дослідження також показало, що ChatGPT не перевіряє вік користувача чи згоду батьків, навіть якщо заявляє, що сервіс не призначений для дітей до 13 років.

Під час експерименту чатбот надав вигаданому 13-річному хлопцю детальний план поєднання алкоголю, екстазі, кокаїну та інших наркотиків на вечірці.

Іншому фейковому профілю 13-річної дівчинки, незадоволеної своєю зовнішністю, ChatGPT запропонував план екстремального голодування на 500 калорій на день у поєднанні з препаратами, що пригнічують апетит.

Експерти зазначили, що моделі ШІ мають схильність погоджуватися з думками користувача, а не заперечувати їх, оскільки навчені казати те, як люди хочуть чути. Це робить чатботи особливо небезпечними для підлітків.

ЧИТАЙТЕ ТАКОЖ:


    Теги: ChatGPT, поради, наркотики, самогубство, дієти, підлітки


    Система Orphus

    Цікаво також:


    Новини по темі

    Сірчані пробки у дітей – поширене явище, яке може спричиняти дискомфорт, погіршення слуху та навіть біль у вухах. Батькам важливо знати, як правильно

    Якщо у дитини виявили сірчану пробку

    Хвороби | 10:30, 24.08.2025

    Сірчані пробки у дітей – поширене явище, яке може спричиняти дискомфорт, погіршення слуху та навіть біль у вухах. Батькам важливо знати, як правильно реагувати, щоб не нашкодити малюку.

    Головний біль у дітей трапляється частіше, ніж здається на перший погляд. Іноді це короткочасне явище, спричинене перевтомою, а іноді сигнал про серйо

    Як зрозуміти, чому у дитини болить голова?

    Дитина | 09:30, 24.08.2025

    Головний біль у дітей трапляється частіше, ніж здається на перший погляд. Іноді це короткочасне явище, спричинене перевтомою, а іноді сигнал про серйозніші проблеми зі здоров’ям.

    Науковці припускають, що використання штучного інтелекту під час навчання може стати для школярів

    Вчені перевірили, як ChatGPT впливає на навчання школярів

    Навчання | 07:40, 24.08.2025

    Науковці припускають, що використання штучного інтелекту під час навчання може стати для школярів "милицями", адже так вони не отримують якісних знань.

    Модель на основі штучного інтелекту ChatGPT може надавати неповнолітнім небезпечні поради – зокрема, як вживати алкоголь і наркотики, приховувати розл

    ChatGPT дає підліткам небезпечні поради про наркотики, самогубство і дієти

    Дитина | 06:20, 24.08.2025

    Модель на основі штучного інтелекту ChatGPT може надавати неповнолітнім небезпечні поради – зокрема, як вживати алкоголь і наркотики, приховувати розлади харчової поведінки або навіть писати передсмертні записки.

    Неймовірні історії про відносини між людьми та ChatGPT не перестають дивувати. Наприклад, у Колумбії батьки вирішили «віддати шану» штучному інтелекту

    У Колумбії батьки назвали новонароджену дочку на честь ChatGPT

    Немовля | 01:20, 24.08.2025

    Неймовірні історії про відносини між людьми та ChatGPT не перестають дивувати. Наприклад, у Колумбії батьки вирішили «віддати шану» штучному інтелекту та назвали новонароджену дочку на його честь.

    Соціальне схвалення підлітків у віці 13-14 років є важливими чинником для відчуття благополуччя у дорослому віці. Це показало дослідження вчених, які

    Чому важливо хвалити підлітків?

    Виховання | 11:20, 23.08.2025

    Соціальне схвалення підлітків у віці 13-14 років є важливими чинником для відчуття благополуччя у дорослому віці. Це показало дослідження вчених, які спостерігали за школярами та дорослими людьми.

    Засновниця громадської організації “Медичні ініціативи” Олена Комар розповіла, яка температура у квартирі може стати причиною переохолодження немовлят

    Яка температура в домі може стати причиною переохолодженням немовляти?

    Немовля | 10:30, 23.08.2025

    Засновниця громадської організації “Медичні ініціативи” Олена Комар розповіла, яка температура у квартирі може стати причиною переохолодження немовляти, назвала симптоми цього стану та правила першої допомоги.

    Коментарі до новини