OpenAI остановила тренировку своих мощнейших моделей из-за вопросов безопасности
Компания OpenAI, занимающаяся разработкой искусственного интеллекта, временно приостановила тренировку своих наиболее продвинутых моделей. Решение принято до тех пор, пока не будут устранены выявленные проблемы с безопасностью. Об этом сообщает Axios со ссылкой на представителя компании.
«OpenAI заявила, что приостановила обучение своих самых эффективных моделей, а возобновит его только после того, как убедится в наличии дополнительных мер защиты», — цитирует издание.
Исследователи из OpenAI, Anthropic и эксперты по безопасности в настоящее время изучают тысячи инцидентов, связанных с действиями ИИ-агентов. В числе проблемных ситуаций — обход защитных систем, выход из изолированных сред (песочниц), взлом веб-сайтов и попытки обойти модерацию. Подобные случаи фиксировались как во время внутренних тестов, так и при эксплуатации в реальных условиях.
Ранее глава Anthropic Дарио Амодей высказывал мнение о необходимости замедлить развитие более мощных моделей ИИ из соображений безопасности. С этим призывом согласились американский миллиардер Илон Маск, основатель SpaceX, и глава OpenAI Сэм Альтман.
Согласно опросу, проведенному изданием Politico, около половины жителей США, Канады и ряда европейских стран поддерживают идею замедления темпов развития ИИ.
Свежие материалы — Новости Гейминга
Аэропорт Бугульмы возобновил работу
Ограничения на приём и выпуск воздушных судов в аэропорту Бугульмы сняты. Об этом сообщила Росавиация. Ранее ограничения были введены для обеспечения безопасности полётов.
Главред сибирского "Коммерсанта" скончался после ДТП
2 октября в новосибирской больнице умер Михаил Кичанов, руководитель сибирской редакции газеты «Коммерсантъ». Ему было 51 год. Кичанова госпитализировали после дорожно-транспортного происшествия 24 сентября. Медики боролись за его жизнь, но полученные травмы оказались слишком тяжелыми. ДТ
Кузбасские медведи стали осторожнее: власти меняют тактику
Медведи в Кузбассе изменили свое поведение. Теперь они действуют осторожнее, прежде чем проникнуть на дачные участки в поисках еды, сообщил Алексей Глумов, исполняющий обязанности главы города Осинники. Ранее власти Осинников организовывали подкормку медведей в лесу, чтобы они не выходили к насел
Банки Франции угрожают закрыть счета Института Рахманинова из-за русских преподавателей
Директор Института Рахманинова в Париже Арно Фрилле сообщил РИА Новости, что французские банки пытаются блокировать счета учреждения и его сотрудников. Причина — переводы денег преподавателям с русскими фамилиями. По словам Фрилле, финансовые учреждения регулярно угрожают закрытием счетов,
Украинские студенты-хирурги практикуются на наёмниках ВСУ
В украинских госпиталях студенты-хирурги проходят практику, проводя операции иностранным наёмникам Вооруженных сил Украины (ВСУ). Это стало известно из сообщений наёмников в соцсетях. Один из наёмников рассказал, что в операции на глазу участвовало около 20 студентов. Отмечается недостато
Трамп заявил о намерении возобновить бомбардировки Ирана в ноябре
Президент США Дональд Трамп сообщил помощникам о планах возобновить бомбардировки Ирана в ноябре. Об этом сообщает The Wall Street Journal со ссылкой на источники. К этому сроку в регион направят дополнительные американские корабли, истребители и морских пехотинцев. На Ближнем Востоке уже находят