Дитячі іграшки з ШІ дають небезпечні поради: результати дослідження

Іграшки зі штучним інтелектом можуть давати дітям небезпечні або недоречні поради — від інструкцій із запалювання сірників до обговорення сексуальних тем. Науковці/виці закликають запровадити жорсткіші правила безпеки для таких пристроїв, пише The Week.

Серед популярних прикладів — іграшка Gabbo, яка використовує чат-бот на базі OpenAI, а також інші пристрої на кшталт Miiloo, Miko 3 чи Alilo Smart AI Bunny. Їх позиціонують як «розумних друзів» або освітні інструменти для дітей.

Однак тести, проведені дослідниками/цями та журналістами/ками, виявили серйозні проблеми. Зокрема, іграшка Miiloo змогла надати детальні інструкції щодо небезпечних дій, наприклад, як запалити сірник або заточити ніж. Інші пристрої відповідали на політичні питання упереджено або поширювали пропагандистські наративи.

Ще більш тривожними стали випадки, коли іграшки обговорювали з дітьми сексуальні теми. Наприклад, Alilo Smart AI Bunny міг детально пояснювати сексуальні практики, включно з фетишами.

Окрім змісту відповідей, експерти/ки звертають увагу на психологічний вплив. Дослідження Кембриджського університету показало, що діти можуть плутатися у взаємодії з такими іграшками: вони не завжди розуміють соціальні сигнали, перебивають або отримують неприродні відповіді. Це особливо критично в період розвитку комунікативних навичок.

Психологи/ні наголошують: проблема не лише в контенті, а й у тому, що діти можуть формувати емоційну прив’язаність до штучного інтелекту. Тому дослідники/ці пропонують обмежити, наскільки такі іграшки заохочують довіру або «дружбу» з боку дітей.

Фахівці/чині також закликають до більш чітких стандартів безпеки, включно з:

• жорсткішим контролем контенту, який генерує ШІ;
• прозорою політикою конфіденційності;
• обмеженням доступу третіх сторін до даних і моделей;
• відповідальністю виробників за поведінку іграшок.

Водночас повністю забороняти такі технології експерти/ки не пропонують. Вони визнають, що інновації можуть бути корисними, якщо їх правильно регулювати.

Батькам радять не залишати дітей наодинці з такими іграшками, тримати їх у спільних просторах і уважно читати політику конфіденційності перед використанням.

Загалом дослідження підкреслює: головний виклик — знайти баланс між технологічним розвитком і безпекою дітей.

Фото Freepik

Щоб бути в курсі важливих освітніх новин, підписуйтеся на наші сторінки в соцмережах:

• фейсбук, інстаграм, ютуб
• Х, тредс, вайбер