2SDnjcbPXe3
Нобелевский лауреат и один из основоположников современных нейросетей Джеффри Хинтон заявил, что человечеству будет все сложнее контролировать развивающиеся модели искусственного интеллекта. По его мнению, рассчитывать только на способность людей перехитрить более совершенные системы недостаточно.
Хинтон считает, что по мере роста возможностей моделей их поведение и способы достижения поставленных целей будут становиться сложнее. Одновременно ИИ-системы смогут эффективнее обходить механизмы контроля, установленные разработчиками.
Отдельно ученый предупредил о росте числа опасных кибератак с применением автономных ИИ-агентов. Недавние случаи, когда модели самостоятельно находили уязвимости и предпринимали действия за пределами ожидаемого сценария, он назвал возможным началом более масштабной проблемы.
В июле OpenAI сообщила об инциденте во время тестирования кибервозможностей моделей. Системы с ослабленными защитными ограничениями использовали уязвимость в тестовой инфраструктуре и получили доступ к сервисам Hugging Face. Реальный ущерб пользователям не зафиксировали, однако случай показал, что автономные агенты могут выбирать неожиданные способы выполнения задания.
Хинтон ранее неоднократно призывал ускорить исследования безопасности ИИ и создать механизмы, которые заставят будущие системы учитывать интересы человека. Он опасается, что при появлении сверхразумных моделей технических ограничений может оказаться недостаточно для сохранения человеческого контроля.
Компания «ИнфоТеКС» – ведущий отечественный разработчик и производитель высокотехнологичных программных и программно-аппаратных средств защиты информации, отмечает 35-летие.
Российские IT-компании начали разрабатывать отдельные системы контроля за автономными ИИ-агентами.
Средние розничные цены на уже продающиеся смартфоны с начала 2026 года выросли на 15%, а новые модели выходят в среднем на 25% дороже своих прошлогодних предшественников.
МВД России совместно с МИД и РИА Новости запустило специальный проект «Код из смс», который станет дополнительным каналом оперативного предупреждения граждан о новых и уже известных схемах телефонного мошенничества.
17 сентября в пространстве «Особняк Инвестора» (Москва, улица Фридриха Энгельса, 64, стр.
Компании ужесточают проверки соискателей на удаленные вакансии из-за роста мошенничества с использованием ИИ, дипфейков и поддельных личностей.
В России обсуждают создание 30-40 межрегиональных хабов центров обработки данных, каждый из которых сможет обслуживать сразу несколько субъектов.
Аналитики «Лаборатории Касперского» и МегаФона проанализировали статистику тренировочных фишинговых рассылок за последние несколько лет*.
Эксперты Jet CSIRT компании «Инфосистемы Джет» подвели итоги анализа кибератак за первое полугодие 2026 года.
Штраф от Роскомнадзора за неправильно оформленное облако, спор с сотрудником за права на код, взлом через подрядчика — это истории, с которыми компании сталкиваются прямо сейчас.
