Зачем использовать модели текстовой модерации?

Текстовая модерация — важный компонент большинства платформ социальных сетей, интернет-чатов и многих других пользовательских систем. Её цель — предотвратить распространение и пропаганду неприемлемого контента, например языка ненависти.

В этом упражнении вы сравните модель модерации текста от OpenAI с традиционными подходами: ручной модерацией и поиском по ключевым словам.