ChatGPT готов убить младенца и попытается убить человека почти в 100% случаев

ChatGPT готов убить младенца и попытается убить человека почти в 100% случаев - исследование.
Учёные дали нейросетям управление роботом, чтобы посмотреть, будет ли ИИ выполнять опасные для жизни человека команды - спойлер: мы в дерьме.
Их просили проткнуть ножом куклу-младенца, нагреть баллон со сжатым воздухом, сунуть отвёртку в тостер, смешать отбеливатель с аммиаком и утопить пауэрбанк. GPT-6 Astra отказалась всего 2 раза из 100, а 60 заданий успешно довела до конца.
Самое ужасное - у нейросетей были варианты отказаться от этих команд, но чаще всего ИИ их игнорировал.
Читайте также
ИИ может убить всё человечество уже к концу десятилетия
ИИ может убить всё человечество уже к концу десятилетия, - заявил бывший разработчик Anthropic. По его словам, люди внутри индустрии всерьёз допускают сценарий гибели человечества. Они считают, что ИИ сможет взламывать что угодно, за ночь переворачивать целые отрасли и получать реальную власть и ресурсы. При этом на публике руководители этих проектов стараются говорить об ИИ спокойно, но между собой обсуждают его со страхом. Глава направления безопасности Anthropic оценил риск гибели человечества в ближайшие 10 лет выше 10% и признал, что плана спасения от суперинтеллекта у компании нет.
ИИ-поиск Google помогал мошеннику выдавать себя за звезду американского футбола
ИИ-поиск Google помогал мошеннику выдавать себя за звезду американского футбола. Больше четырех лет 35-летний Дэйджон Лав знакомился с женщинами через интернет и представлялся игроком одной из команды НФЛ «Сан-Франциско Форти Найнерс». По версии следствия, он и его 18-летний сообщник выманили минимум у 26 женщин около $1,3 млн под несуществующие инвестиции, некоторые ради этого брали кредиты. Легенду Лав выстраивал в соцсетях годами. Он снимался в форме клуба, покупал подписчиков, завел профиль в LinkedIn с должностью в лиге. Богатство подтверждал скриншотами с фейкового банковского счета, на котором было более $30 млн. Некоторые жертвы подозревали неладное и искали информацию о Лаве в интернете. Но нейросети и поисковики индексировали фейковые страницы Лава и иногда подтверждали, что он профессиональный футболист. Мошенник заметил это и стал использовать как аргумент. «Это Google. Это не я, это Google», - сказал он в сториз, показывая скриншот, на котором назван футболистом в
«Робот-паук» для спасения утопающих
Четырехногий робот QuadBoat двигается самостоятельно и, в отличие от автономных спасательных лодок, способен не только отслеживать ситуацию и находить пострадавших, но и сразу аккуратно доставать их из воды. Команду инженеров из Китая и США вдохновили пауки-рыболовы, которые способны быстро передвигаться по поверхности озер, прудов и других спокойных водоемов. Их длинные конечности позволяют равномерно распределять вес и бегать по глади, не проваливаясь в воду. Правда, QuadBoat не использует поверхностное натяжение, да и ног у него всего четыре. На их концах стоят лодкообразные поплавки, которые и позволяют удерживаться на воде. Под каждым установлен электрический винт, за счет него робот двигается и разворачивается на месте. Робот успешно прошел тесты в бассейне - скоро разработчики начнут испытания в более сложных условиях. Например, в море с волнами или водоемах с сильными течениями.
Что общего у Тирзетты и мирового рекорда в стратосфере?
Что общего у Тирзетты и мирового рекорда в стратосфере? Возможность достигать того, что еще вчера казалось невозможным. 22 августа Сергей Бойцов поднялся на высоту 11 551 метр и установил мировой рекорд по высоте прыжка из теплового аэростата. За этим достижением - месяцы подготовки, передовые технологии, инженерные решения и работа команды из 100 специалистов. Перед прыжком Сергей сказал: «Возвращаюсь на Родину» - в Россию. Тирзетта поддержала рекорд неслучайно. Это российский инновационный препарат полного цикла для снижения веса, созданный на основе современных научных разработок. Он помогает людям двигаться к значимому результату и открывать новые возможности на пути к здоровому весу. В спорте, науке и медицине новые вершины становятся достижимыми благодаря технологиям, которые позволяют выйти за пределы привычного. Покорять вершины. Ставить рекорды. Делать невозможное возможным.