Как читать мысли, не читая мыслей: Почему лучшие ИИ-декодеры мозга — просто плагиатчики
«Предложена новая структура SemKey, которая использует разделённые семантические цели и перепроектированное взаимодействие между нейронным энкодером и LLM для улучшения декодирования языка из сигналов ЭЭГ и устранения галлюцинаций.»
Стоп, что?
Это не чтение мыслей. Это интеллектуальное мошенничество.
Представьте полиграф (детектор лжи), который вместо анализа вашего волнения просто говорит стандартные фразы вроде «вы нервничаете» — и всегда попадает. Метрики покажут 100% точность, но по факту он бесполезен. Та же история с ИИ для мозга.
Исследователи обнаружили три фундаментальные проблемы у современных систем «ЭЭГ-в-текст»:
- Семантическое смещение: Модель сваливается в шаблонные фразы («Привет, как дела?»), потому что их проще предсказать.
- Игнорирование сигнала: Модель «галлюцинирует», генерируя текст на основе своих языковых знаний, а не ваших реальных мозговых волн. По сути, она вас не слушает.
- Ловушка BLEU: Основная метрика оценки (BLEU) надувается за счёт частых слов (стоп-слов), маскируя провал в передаче истинного смысла.
Что предложили авторы? Систему SemKey, которая жёстко привязывает генерацию текста к сигналу мозга через четыре «семантических якоря»: настроение, тему, длину предложения и степень неожиданности слова. Модель заставляют внимательно слушать мозг, а не додумывать.
Как проверяли по-настоящему? Отказались от BLEU. Вместо этого:
- N-way Retrieval Accuracy: Может ли система по мозговой активности выбрать правильную фразу среди множества похожих? (Проверка на смысл).
- Расстояние Фреше: Насколько разнообразны сгенерированные фразы? (Проверка на шаблонность).
Результаты: Новая система эффективно подавила «галлюцинации» на шумовых входных данных и показала лучшие результаты на этих строгих тестах.
Что это значит для вас
Так что же мы в итоге измеряем, когда ИИ «читает наши мысли» — его мастерство или его наглость?