Forum Copilot - Automatic Spam and NSFW Image Detection with OpenAI ChatGPT 1.0.1

Обзор​

Представляем Forum Copilot, инновационное дополнение XenForo, предназначенное для автоматизации модерации сообщества с использованием расширенных возможностей OpenAI. Этот инструмент гарантирует, что ваш форум останется безопасным и гостеприимным местом для всех пользователей, используя искусственный интеллект для эффективного и действенного управления сообщениями.

Ключевые особенности​

• Автоматическая модерация контента : все помеченные темы перемещаются в очереди утверждения для проверки вручную, гарантируя, что последнее слово при принятии решений по содержанию останется за вами.
• Интеграция OpenAI : для плавной интеграции требуется собственный ключ API разработчика OpenAI.
• Оптимизированная производительность : использует очередь заданий XenForo, гарантируя, что производительность публикации не пострадает.
• Анализ в реальном времени : сообщения проверяются автоматически в течение нескольких секунд после публикации, что позволяет поддерживать поток разговора без задержек.

Проверки с использованием искусственного интеллекта​

• Обнаружение спама : Forum Copilot использует искусственный интеллект для обнаружения даже самых креативных тактик уклонения от спама, поддерживая все языки и обходя ограничения жестко запрограммированных правил строк/слов.
• Обнаружение специальных символов : Используя возможности зрения GPT-4o, надстройка может идентифицировать специальные символы, предназначенные для уклонения от традиционных средств проверки спама.

Проверка образа NSFW​

• Анализ изображений : использует GPT-4o Vision для загрузки изображений вложений в OpenAI для проверки на соответствие содержимому NSFW.
• Управление затратами : размеры изображений изменяются перед отправкой в OpenAI, чтобы расходы на API были управляемыми.
• Фокус на вложении : проверяются только вложенные изображения; изображения, связанные с горячими ссылками, не подпадают под действие правил NSFW.