Собирает досье: вокруг новой нейросети Цукерберга разгорелся скандал
Сегодня, 6:36
Новая нейросеть Цукерберга оказалась в центре скандала
Ваш браузер не поддерживает HTML5 видео.
Фото, видео: ИЗВЕСТИЯ/Сергей Лантюхов; 5-tv.ru
Цифрового агента Мusе подозревают в шпионаже и создании дипфейков.
Грандиозный скандал разгорается за океаном — из-за нового цифрового агента Muse. Изобретение миллиардера Марка Цукерберга подозревают в шпионаже и создании дипфейков. Своим пользователям нейросеть обещает помочь во всем — от документов до гениальных идей. Правда, для этого просит доступ к личным данным. Как выяснили аналитики, агент копает глубже: собирает целое досье на человека и даже его родственников. Чем это может обернуться, выяснила корреспондент «Известий» Диана Тачаева.
Он должен помогать человеку. Буквально во всем. От заполнения документов до генерирования блестящих идей. Но для этого сначала должен узнать о вас все. Или почти все. Новому ИИ-агенту Muse от Марка Цукерберга миллионы пользователей прямо сейчас дают доступ к своей почте, календарю, покупкам, переписке. А дальше начинается самое интересное.
«Muse AI самостоятельно вел переписку с покупателем на маркетплейсе, назвал цену и отправил его ко мне домой, причем я даже не участвовал в этом общении. И вот покупатель приезжает, пишет мне: "Слушай, я здесь". Самое безумное было в том, что Muse даже не сказал мне, что покупатель буквально стоит у моей чертовой двери», — рассказал блогер Мэтт Робб.
Аналитики обнаружили: под ширмой помощи Muse собирает подробное досье не только на самого пользователя, но и на людей вокруг него — родственников, друзей, коллег и даже тех, на кого человек просто подписан. Знает, где кто живет, чем занимается, какие у кого и с кем отношения. И вовсю использует это в собственных целях.
«Я никогда не давал ему разрешения читать мои сообщения. Я прекрасно помню, что не позволял Muse получать доступ к моему календарю и другой личной информации», — написал журналист Джейсон Атен.
Сам Цукерберг оправдывается: агент использует исключительно публичную информацию. И ту, которой пользователь сам с ним решил поделиться. На деле — все происходит с точностью до наоборот.
«Я сама все протестировала. Работает это следующим образом: ИИ распознает аккаунт, на который вы ссылаетесь, а затем добавляет в созданное вами изображение довольно точное сходство с этим человеком. Якобы функцию можно использовать для развлечения, но многие опасаются, что их изображения могут превратить в дипфейки», — сказала журналист CNET Кейтлин Чедрауи.
Компанию уже не первый год критикуют за откровенно наплевательское отношение к данным пользователей. Против Facebook и Instagram поданы многомиллионные иски, платформы обвиняют в нанесении непоправимого психологического вреда подросткам. В России Meta и вовсе признана экстремистской организацией и запрещена.
«Здесь есть один важный нюанс: пользователям нужно решить, насколько они готовы доверять Meta — компании, которая давно сталкивается с критикой из-за проблем с конфиденциальностью. Так стоит ли предоставлять новому ИИ-агенту доступ к приложениям, в которых потенциально может содержаться чувствительная информация», — отметила журналист CBS News Лорен Фичин.
И пока одни пытаются понять, сколько данных уже собрали создатели Muse и главное — зачем, конкуренты выводят на рынок похожих цифровых агентов. OpenAI готовит мир к тому, что безопасность и личное пространство уходят в прошлое навсегда.
«Я бы не согласился на такой вариант: "мы гарантируем, что не будет крупных взломов, злоупотреблений этой технологией, мошенничества и всех прочих негативных последствий". Потому что, на мой взгляд, люди сделают с ее помощью нашего агента несоизмеримо больше хорошего, чем плохого», — заявил глава OpenAI Сэм Альтман.
Вопрос в том, кому в итоге достанется этот хороший кусок цифрового пирога. И тут цифры говорят сами за себя — в сентябре акции компании-разработчика потребительского ИИ-агента Muse подскочили аж на 27% — это лучший результат техно-гиганта за последние четыре года.
Еще больше новостей — у Пятого канала в мессенджере МАКС.