ИИ-системы с космической скоростью справляются с модерацией контента
В компании OpenAI отметили, что нейросеть GPT-4 настолько успешно справляется со своей задачей, что ее инструменты способны помочь сделать шестимесячную работу за день.
Компания OpenAI, оператор чат-бота ChatGPT, занимается тестированием систем по отсеиванию нежелательной информации на базе искусственного интеллекта (ИИ). Об этом сообщило агентство Bloomberg со ссылкой на заявление представителя компании Андреа Валлоне.
По ее словам, нейросеть GPT-4, на основе которой сейчас работает ChatGPT, можно использовать для быстрой маркировки и фильтрации сообщений, что позволяет задействовать ее для разработки правил в отношении контента определенного рода.
Руководитель группы защиты инфраструктурных ИТ-решений компании «Газинформсервис» Сергей Полунин рассказал о рисках в применении ИИ-систем:
– Очень логичное применение искусственного интеллекта – автоматизация рутины, это то, чего мы ждем больше всего. Тут важно помнить, что ChatGPT остается компьютерной программой, которая подвержена специфическим уязвимостям, которые могут повлиять на принимаемые ей решения. Существует десяток способов заставить ИИ ошибаться, подсунув некорректные данные в процессе постоянного обучения, поэтому при всей перспективности этой затеи, систему нужно грамотно сопровождать и контролировать, а это может сделать только человек.
похожие материалы
SmarterTools раскрыла детали инцидента безопасности и уязвимостей в SmarterMail
Компания SmarterTools опубликовала разбор инцидента безопасности, связанного с компрометацией инфраструктуры и выявлением ряда уязвимостей в почтовой платформе SmarterMail.
В npm и PyPI обнаружили вредоносные пакеты, маскирующиеся под dYdX
Исследователи по безопасности сообщили о выявлении вредоносных пакетов в репозиториях npm и PyPI, которые маскировались под компоненты, связанные с экосистемой dYdX.
Павел Дуров прокомментировал сообщения об ограничениях Telegram в России
Основатель мессенджера Telegram Павел Дуров прокомментировал информацию о возможных ограничениях работы сервиса в России.
В сети появились сообщения об исключении домена YouTube из DNS Роскомнадзора
Telegram-канал ExploitEx сообщил о признаках усиления ограничений в отношении видеохостинга YouTube в России.
Исследователи зафиксировали рост кооперации политически мотивированных хакерских группировок
Центр мониторинга и реагирования на киберугрозы RED Security SOC сообщил о формировании устойчивого тренда на кооперацию политически мотивированных хакерских группировок при атаках на российский бизнес.
Минцифры планирует создать площадку для тестирования ИИ на безопасность
Для систем искусственного интеллекта высокого и критического уровня риска потребуется получать сертификат на соответствие требованиям безопасности Федеральной службы по техническому и экспертному контролю (ФСТЭК) и Федеральной службы безопасности (ФСБ).
«Газинформсервис» подтвердил членство в РОСЭУ и анонсировал создание системы независимого аудита УЦ
Компания «Газинформсервис» подтвердила статус члена Ассоциации РОСЭУ на 2026 год.
BeyondTrust выпустила патч для устранения критической уязвимости
По данным официального бюллетеня безопасности, компания BeyondTrust опубликовала предупреждение о критической уязвимости в продуктах Remote Support и Privileged Remote Access, позволяющей злоумышленнику удалённо выполнить произвольный код без предварительной аутентификации.
Эксперты прогнозируют увеличение объема рынка облачных сервисов до более 1 трлн рублей
Объем российского рынка облачных сервисов к 2030 году достигнет 1,2 трлн рублей при среднегодовых темпах роста в 24,4%, говорится в предварительных оценках компаний РТК-ЦОД и iKS-Consulting.
Эксперты предупреждают о рисках использования бесплатных VPN-сервисов
Специалисты по кибербезопасности предупреждают, что бесплатные VPN-сервисы могут представлять серьезные риски для конфиденциальности и безопасности пользователей.