ИИ может убить всё человечество уже к концу десятилетия

ИИ может убить всё человечество уже к концу десятилетия, - заявил бывший разработчик Anthropic.
По его словам, люди внутри индустрии всерьёз допускают сценарий гибели человечества. Они считают, что ИИ сможет взламывать что угодно, за ночь переворачивать целые отрасли и получать реальную власть и ресурсы.
При этом на публике руководители этих проектов стараются говорить об ИИ спокойно, но между собой обсуждают его со страхом.
Глава направления безопасности Anthropic оценил риск гибели человечества в ближайшие 10 лет выше 10% и признал, что плана спасения от суперинтеллекта у компании нет.
Читайте также
Нейросеть пала в битве за Омск
Нейросеть пала в битве за Омск: традиционное врачевание с регистратурой и «я только спросить» победили попытки внедрить ИИ-технологии в поликлиники. Как выяснила «База», омская IT-компания получила от властей почти 2 млн рублей на разработку голосового робота для поликлиник. Он должен был отвечать на звонки пациентов, записывать их к врачам и проверять статус заявлений. Но интеллекта нейросети хватило только на то, чтобы понимать вопросы «слово в слово». Отклонение от скрипта - и бот впадал в ступор. Самое страшное - робот не переводил звонки на живых операторов, когда сам не справлялся. Пациенты часами говорили с бездушной машиной, которая не умела даже уточнять вопросы. А когда всё-таки удавалось получить ответ - каждый десятый оказывался ошибкой, что в разы выше допустимого порога. Отчётность система выдавала недостоверную: звонки с переводом на оператора помечались как «успешные», а некоторые диалоги вообще не фиксировались. В итоге контракт расторгли, подрядчика отстранили от
ИИ-поиск Google помогал мошеннику выдавать себя за звезду американского футбола
ИИ-поиск Google помогал мошеннику выдавать себя за звезду американского футбола. Больше четырех лет 35-летний Дэйджон Лав знакомился с женщинами через интернет и представлялся игроком одной из команды НФЛ «Сан-Франциско Форти Найнерс». По версии следствия, он и его 18-летний сообщник выманили минимум у 26 женщин около $1,3 млн под несуществующие инвестиции, некоторые ради этого брали кредиты. Легенду Лав выстраивал в соцсетях годами. Он снимался в форме клуба, покупал подписчиков, завел профиль в LinkedIn с должностью в лиге. Богатство подтверждал скриншотами с фейкового банковского счета, на котором было более $30 млн. Некоторые жертвы подозревали неладное и искали информацию о Лаве в интернете. Но нейросети и поисковики индексировали фейковые страницы Лава и иногда подтверждали, что он профессиональный футболист. Мошенник заметил это и стал использовать как аргумент. «Это Google. Это не я, это Google», - сказал он в сториз, показывая скриншот, на котором назван футболистом в
«Робот-паук» для спасения утопающих
Четырехногий робот QuadBoat двигается самостоятельно и, в отличие от автономных спасательных лодок, способен не только отслеживать ситуацию и находить пострадавших, но и сразу аккуратно доставать их из воды. Команду инженеров из Китая и США вдохновили пауки-рыболовы, которые способны быстро передвигаться по поверхности озер, прудов и других спокойных водоемов. Их длинные конечности позволяют равномерно распределять вес и бегать по глади, не проваливаясь в воду. Правда, QuadBoat не использует поверхностное натяжение, да и ног у него всего четыре. На их концах стоят лодкообразные поплавки, которые и позволяют удерживаться на воде. Под каждым установлен электрический винт, за счет него робот двигается и разворачивается на месте. Робот успешно прошел тесты в бассейне - скоро разработчики начнут испытания в более сложных условиях. Например, в море с волнами или водоемах с сильными течениями.
Тараканов-киборгов «научили» делать уколы людям
Исследователи из Австралии превратили гигантских роющих тараканов в миниатюрных «парамедиков». Насекомыми можно дистанционно управлять, а на их спины устанавливать камеры или автоматические шприцы. В перспективе такие киборги смогут первыми добираться до людей под завалами или в других местах, куда спасатели физически не могут проникнуть. При этом управлять тараканом и принимать решение об уколе будет человек. Команда считает, что подобные системы могут внедрить в реальные спасательные операции в течение 5-10 лет. И сами ученые понимают, что есть небольшая психологическая проблема: человеку под завалами придется смириться с тем, что спасение к нему приближается в виде гигантского таракана. «Многим может не понравиться вид бегущего к ним огромного таракана, но если вы застряли под обломками и вам нужна помощь, это может стать вопросом жизни и смерти», - признает один из авторов работы Хай Нян Ле.