В Італії оштрафували на €5 мільйонів розробника чат-бота зі штучним інтелектом

Італійський регулятор наклав штраф на компанію Luke Inc., розробника штучного інтелекту Replika, за порушення норм захисту персональних даних. Цей стартап, заснований у Сан-Франциско у 2017 році, надає користувачам можливість спілкуватися з персоналізованими аватарами, яких компанія вважає «віртуальними друзями» для покращення емоційного стану.

У лютому 2023 року організація Garante зобов’язала Replika призупинити свою діяльність в Італії через виявлені ризики для дітей. Під час розслідування було з’ясовано, що у компанії не було юридичних підстав для обробки даних своїх користувачів, а також відсутня система перевірки віку, що дозволяла б обмежити доступ молодшої аудиторії до сервісу.

Крім того, Garante оголосив про старт окремого розслідування, щоб перевірити відповідність системи генеративного штучного інтелекту Replika вимогам конфіденційності ЄС, зокрема в частині навчання мовної моделі.

Цей регулятор є одним із найактивніших у Євросоюзі в рамках контролю за дотриманням законодавства про захист даних стосовно платформ штучного інтелекту. Нагадаємо, що минулого року італійське агентство з захисту даних наклало штраф у розмірі 15 мільйонів євро на OpenAI, творця відомого чат-бота ChatGPT.