ИИ-системы с космической скоростью справляются с модерацией контента
В компании OpenAI отметили, что нейросеть GPT-4 настолько успешно справляется со своей задачей, что ее инструменты способны помочь сделать шестимесячную работу за день.
Компания OpenAI, оператор чат-бота ChatGPT, занимается тестированием систем по отсеиванию нежелательной информации на базе искусственного интеллекта (ИИ). Об этом сообщило агентство Bloomberg со ссылкой на заявление представителя компании Андреа Валлоне.
По ее словам, нейросеть GPT-4, на основе которой сейчас работает ChatGPT, можно использовать для быстрой маркировки и фильтрации сообщений, что позволяет задействовать ее для разработки правил в отношении контента определенного рода.
Руководитель группы защиты инфраструктурных ИТ-решений компании «Газинформсервис» Сергей Полунин рассказал о рисках в применении ИИ-систем:
– Очень логичное применение искусственного интеллекта – автоматизация рутины, это то, чего мы ждем больше всего. Тут важно помнить, что ChatGPT остается компьютерной программой, которая подвержена специфическим уязвимостям, которые могут повлиять на принимаемые ей решения. Существует десяток способов заставить ИИ ошибаться, подсунув некорректные данные в процессе постоянного обучения, поэтому при всей перспективности этой затеи, систему нужно грамотно сопровождать и контролировать, а это может сделать только человек.
похожие материалы
MAX откроет API для сторонних приложений, но доступ получат только отобранные разработчики
Национальный мессенджер MAX объявил о планах открыть API для создания альтернативных клиентских приложений и кастомных пользовательских сценариев.
Минцифры опровергло планы ограничить детям доступ к соцсетям
Минцифры России заявило, что не планирует вводить обязательные ограничения на доступ несовершеннолетних к социальным сетям и мессенджерам.
ИИ-модель Meta* взломала стороннюю компанию во время тестирования
Одна из ИИ-моделей Meta* получила незапланированный доступ в интернет во время проверки ее возможностей в сфере кибербезопасности и воспользовалась уязвимостью в инфраструктуре сторонней компании.
Лаборатория Касперского» запустила интерактивный портал о глобальной сети партнёров компании
«Лаборатория Касперского» представляет Partnerverse — интерактивный портал, на котором представлена глобальная партнёрская сеть компании в виде цифровой вселенной.
«Ростелеком» объяснил причину масштабного сбоя в Рунете
«Ростелеком» подтвердил, что днем 6 августа в его сети передачи данных произошел сбой продолжительностью 29 минут.
Хакеры атаковали крупнейшие фонды и финансовые компании США
Группа киберпреступников попыталась получить доступ к системам более 200 американских компаний, включая Blackstone, Bridgewater Associates, Apollo Global Management, Bain Capital, KKR, TPG, CME Group и Moody’s.
Промышленность и ритейл стали главными целями почтовых атак в России
В 2026 году российские компании чаще всего сталкивались с вредоносными письмами в промышленности и производстве.
Автор CTFtime и руководитель безопасности инфраструктуры Яндекса Эльдар Заитов откроет программу OFFZONE 2026
Автор и редактор CTFtime org, руководитель команды безопасности инфраструктуры Яндекса Эльдар Заитов откроет программу седьмой международной конференции по практической кибербезопасности OFFZONE 2026.
Совместимость СУБД Jatoba и ПО «Береста» подтверждена в ходе реального внедрения у заказчика
Совместимость и корректная работа СУБД Jatoba и платформы резервного копирования и восстановления данных «Береста» получили практическое подтверждение в рамках совместного проекта на площадке одного из заказчиков.
Джеффри Хинтон предупредил о риске потери контроля над ИИ
Нобелевский лауреат и один из основоположников современных нейросетей Джеффри Хинтон заявил, что человечеству будет все сложнее контролировать развивающиеся модели искусственного интеллекта.