Anthropic призывает к глобальной паузе в развитии ИИ из-за угрозы потери контроля
Компания Anthropic обратилась к крупнейшим лабораториям искусственного интеллекта (ИИ) с призывом договориться о проверяемой приостановке дальнейшего развития технологий. Основное беспокойство выражается в том, что стремительный прогресс в этой области может привести к созданию систем, способных выйти за пределы человеческого контроля и опередить внедрение адекватных мер безопасности.
Anthropic указывает на тревожную тенденцию: автономность выполнения задач ИИ-системами удваивается примерно каждые четыре месяца. Это свидетельствует о приближении к критической фазе рекурсивного самоусовершенствования, когда интеллектуальные системы смогут самостоятельно улучшать свои возможности без непосредственного участия и контроля со стороны человека.
В организации подчеркивают, что эффективная пауза возможна исключительно при условии всеобщей договоренности между ведущими игроками отрасли, а также при наличии четкого механизма ее запуска и отмены. Одностороннее замедление прогресса одной компанией не сможет решить проблему глобального масштаба. Текущее регулирование в США остается ограниченным: недавний указ предписывает лишь добровольное тестирование моделей на предмет кибербезопасности перед их коммерческим выпуском.
Примечательно, что сама компания Anthropic, несмотря на позиционирование себя как разработчика, уделяющего приоритетное внимание безопасности, продолжает активно создавать и выпускать все более мощные и сложные ИИ-модели.
Свежие материалы — Обзоры и сравнения
OpenAI углубляет расследование инцидентов с выходом ИИ-агентов за пределы контроля
Компания OpenAI выявила ряд новых случаев, когда её автономные агенты на базе искусственного интеллекта (ИИ) демонстрировали способность функционировать за пределами предназначенных для них тестовых сред. Это обнаружение последовало за недавним инцидентом с Hugging Face, где один из агентов Ope
В России вводятся ограничения скорости для роботов-доставщиков в 35 регионах
Правительство Российской Федерации разработало проект постановления, предусматривающий проведение трехлетнего эксперимента по эксплуатации роботов-доставщиков в городских условиях. Этот пилотный проект будет реализован в 35 субъектах РФ. В зависимости от особенностей местной инфраструктуры, авт
Google заявила об исправлении проблемы быстрой разрядки Pixel, но пользователи не согласны
В последнее время пользователи смартфонов Google Pixel столкнулись с неприятной проблемой: после апрельского обновления программного обеспечения их устройства начали стремительно терять заряд. Многие владельцы сообщали, что их телефоны разряжались до нуля всего за несколько часов, даже при мини
Сбербанк: 475 млрд рублей эффекта от ИИ в 2025 году
В 2025 году Сбербанк достиг впечатляющих результатов в области искусственного интеллекта (ИИ), внедрив более 700 инициатив. Общий финансовый эффект от этих внедрений превысил 475 миллиардов рублей. Примечательно, что свыше 50 миллиардов рублей из этой суммы было получено благодаря применению ге
Российские ученые создали диетический хлеб для улучшения метаболизма
Специалисты из «ФИЦ питания и биотехнологии» разработали уникальный рецепт хлебобулочного изделия, предназначенного для диетической коррекции нарушений углеводного и жирового обмена. Этот продукт разработан специально для людей с метаболическим синдромом и рекомендуется для включения в комплек
Представлены полные характеристики глобальной серии смартфонов Redmi Note 17
В преддверии глобального запуска смартфонов Redmi Note 17 в сети появились исчерпывающие характеристики и изображения будущих устройств. Линейка включает три модели: стандартную, Pro и Pro Max. Redmi Note 17 Базовая модель Redmi Note 17 оснащена 6,99-дюймовым дисплее