Один вектор не справляется: новая модель разделяет смыслы узла

Главная проблема здесь не в количестве меток, а в слишком тесном представлении: узел с несколькими смыслами пытаются описать одним вектором. Из-за этого значения смешиваются, и модели становится трудно одновременно различать все свойства узла — особенно когда её переносят на другой графовый домен.

Авторы предлагают MSB-GFM — Multi-Semantic Basis Graph Foundation Model. Вместо одной фиксированной точки каждый узел представляется как адаптивная комбинация семантических базисов. Проще говоря, модель не заставляют искать один «главный» смысл узла, а дают ей возможность собрать представление из нескольких компонентов.

Это важный сдвиг для графовых foundation models. Их обещание — переносимость между разными графами и задачами, но одно-векторная модель плохо соответствует объектам, которые по природе многозначны. В MSB-GFM к этому добавляют два канала: один отвечает за семантику, другой — за структуру графа; доменно-состязательное обучение должно помочь переносить знания между графами.

Но до практических выводов ещё далеко. В исходном описании нет чисел, названий наборов данных и сравнения с конкретными моделями — только утверждение об эффективности на обширных экспериментах. Кроме того, сама работа решает довольно узкую задачу: многометочную классификацию узлов с переносом между доменами. Поэтому пока это скорее убедительная гипотеза о том, как устроить представление, чем доказательство универсальности графовых моделей.

Если в ваших данных один объект регулярно принадлежит сразу к нескольким категориям, что чаще мешает качеству — нехватка данных или попытка упаковать все смыслы в один вектор? Источник: cs.AI updates on arXiv.org