Обновить

Комментарии 3

>> Мы хотим чтобы эмбеддинги отражали семантику слова, а не его частотность.

Это невозможно. ))) Семантика не содержится в словах. ))

Не очень понял смысл комментария.
Под семантикой я понимаю "смысловое значение единиц языка". Возможно, вы говорите о том, что пространство эмбеддингов отражает лишь семантические связи между словами, а не собственно семантику слова? Это действительно так, но если рассуждать дальше, можно долго спорить о том, что такое семантика слова.
В любом случае, здесь речь просто о том, что частотность влияет на эмбеддинг сильнее, чем предполагалось.

Спасибо за полезную публикацию! Вы сделали хорошую работу.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Информация

Сайт
www.mts.ru
Дата регистрации
Дата основания
Численность
свыше 10 000 человек
Местоположение
Россия