Базираният в Сан Франциско производител на чатбот с изкуствен интелект Replika трябва да спре да използва данните на италианците поради рискове, които услугата за „виртуално приятелство“ може да представлява за непълнолетни и емоционално уязвими хора.
Replika предлага на потребителите персонализирани аватари, които им говорят и ги слушат, работи от 2017 г. и се предлага на пазара като способен да подобри емоционалното благополучие на потребителя.
Италианската агенция за защита на данните заяви в петък, че способността й да се намесва в настроението на потребителя „може да увеличи рисковете за лица, които все още са в етап на развитие или в състояние на емоционална уязвимост“.
Агенцията също обвини разработчика на Replika Luka Inc, че не е спазил законовите изисквания, за да покаже как използва данните на хората и твърди, че компанията не притежава законното право да обработва данни на деца съгласно законите за защита на данните на ЕС.
В резултат на това на Replika е наредено да спре обработката на данните на италианците с незабавен ефект.
В прессъобщение, регулаторите казват, че приложението „носи фактически рискове за децата – на първо място, фактът, че им се сервират отговори, които са абсолютно неподходящи за тяхната възраст“ и допълнително цитираха липсата на система за проверка на възрастта, което означава, че платформата не е филтриран или блокиран за непълнолетни и може да бъде лесно достъпен от тях.
Надзорният орган нареди на американската компания да я уведоми за предприетите мерки за промяна на политиките и практиките си в съответствие с италианските и европейските директиви в рамките на 20 дни. Ако не го направи, компанията може да бъде глобена до 21,8 милиона долара, което се равнява на близо 4% от световния й годишен оборот.
Вижте всички актуални новини от Standartnews.com
