Нейросети используют мат для сжатия текстов

Введение

На моей практике я часто сталкивался с проблемой сжатия текстов без потери смысла. Это может быть полезно для создания коротких и информативных сообщений.

Исследователи из Института AIRI, НИУ ВШЭ и Университета Иннополис представили свежее исследование на конференции AAAI в Сингапуре.

Исследование

Исследователи проверили эффективность метода на коротких предложениях и полноформатных новостных текстах. Идея исследования возникла при изучении фильтров для контента с разными возрастными режимами.

Команда задумалась: а что, если не просто обучить ИИ вычищать грубые слова из текстов, но сделать так, чтобы нейросеть переводила текст в нейтральный регистр с минимальной потерей смысла?

У меня был клиент, который хотел сократить тексты для своих социальных сетей, и я тут пробовал использовать эффект текста за изображением, чтобы сделать сообщения более привлекательными.

Метод

Исследовател�� решили проверить, можно ли целенаправленно использовать эффект для сжатия текстов при сохранении основной мысли, чтобы экономить вычислительные ресурсы.

Под сжатием авторы понимают не классическую суммаризацию и не побуквенную компрессию, а уменьшение длины высказывания за счёт специальных выражений с минимальной потерей семантики.

Мне кажется, что этот метод может быть полезен для создания коротких и информативных сообщений, особенно если использовать AI-генератор подписей для соцсетей и AI-удаление фона для создания привлекательных изображений.

Результаты

В итоге исследователи сосредоточились на авторегрессионной LLM и применили RL-дообучение с составной функцией награды.

В нее включили штраф за превышение целевой длины текста и поощрение за использование обсценного лексикона именно как средства компрессии.

Рабочая модель в итоге не использует нецензурную лексику при обработке обычных текстов.

Я тут пробовал использовать сжатие изображений, чтобы уменьшить размер изображений и сделать их более быстрыми для загрузки.

Будущие работы

Исследователи планируют сосредоточиться на сборе более качественных и контекстно богатых данных, чтобы модель точнее различала случаи использования обсценной лексики.

Это может быть полезно для создания более точных и информативных сообщений, особенно если использовать Repost Ninja Bot для автоматического постинга в социальных сетях.

Вывод

Использование нейросетей для сжатия текстов может быть полезно для создания коротких и информативных сообщений.

Это может быть особенно полезно для социальных сетей, где сообщения должны быть короткими и привлекательными.