#gnn — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #gnn, aggregated by home.social.
-
Может ли нейросеть выучить физику, просто наблюдая за миром?
О когнитивных способностях человека есть много исследований. Одно из самых известных это исследование за авторством Элизабет Спелке. Оно о том как у человека появляется самое первое, базовое понимание мира и физических законов. Её работа ставит под сомнение традиционные взгляды на то, что всё человеческое знание приобретается исключительно через опыт, и выдвигает гипотезу о наличии врожденных когнитивных систем . На основе когнитивных экспериментов Спелке доказывает, что фундаментальные представления о мире начинают проявляться в самых ранних месяцах жизни и являются частью врожденного аппарата человека. Итак, если Спелке показывает, что человеку для этого нужно врожденное ядро знаний, то как с этим справляются архитектуры на чистых данных? Способна ли нейросеть самостоятельно выделить объекты из огромного числа пикселей, построить внутренний физический движок и предсказать, куда упадет брошенный мяч, не зная формулы ? Рассмотрим как современные ИИ-системы пытаются понять физический мир через наблюдение . Где у них это действительно получается , и почему хорошая визуальная экстраполяция всё еще не означает истинного понимания природы вещей.
https://habr.com/ru/companies/bothub/articles/1071542/
#world_model #модели_мира #модель #slot_attention #adept #машинное+обучение #cv #gnn
-
Побеждаем OOM в PyTorch: как обучать гигантские графы на обычной видеокарте
При обучении графных нейросетей и гигантских эмбеддингов на миллионы узлов стандартный torch.optim.SparseAdam в PyTorch моментально забивает RAM и VRAM, вызывая ошибку CUDA out of memory (OOM). В этой статье разбираем, как устроена легковесная Open Source библиотека Disk Sparse Adam (DSA), которая выносит состояния моментов на диск через memory mapping (mmap) и позволяет обучать огромные спарс-модели на обычной домашней видеокарте.
https://habr.com/ru/articles/1068202/
#PyTorch #Machine_Learning #Open_Source #Python #GNN #OOM #SparseAdam #Оптимизация_памяти #Disk_Sparse_Adam #Глубокое_обучение
-
fitterkarma to launch debut album with Metropolitan Theater concert
-
Как я сделал AiRevit: от обычного текста до BIM-модели в Revit б без LLM
Сейчас в тренде - внедрение ИИ вообще в любой проект, в любой чайник или пылесос. Я давно ковыряюсь в проектировании и Revit, и меня стабильно бесило одно и то же: куча рутины, одинаковых действий, которые можно было бы спокойно автоматизировать. Глядя на то, какие чудеса сейчас творят языковые и диффузионные LLM, генерируя целые детализированные миры, очень хочется сделать тоже самое в строительной сфере. Уже существует ряд реализаций. Однако обычно все заканчивается на уровне красивой демки, однако, если присмотреться, там всегда есть эффект "пятого пальца", только в контексте архитектуры это выглядит как третий унитаз или вторая дверь в ванную. Я решил собрать свой вариант и назвал его AiRevit. Это не чатик с LLM поверх Revit. Тут вообще не предполагается использования такой архитектуры, которая бы основывалась на угадывании токена (нам не нужно ничего угадывать, нужно соблюдать строгие строительные правила). Это детерминированный pipeline, где текст сначала превращается в структурированный program_graph , потом в layout_solution , а уже потом в реальные элементы Revit через Dynamo и Python-скрипты. В репозитории это разложено на Node 3, Node 4 и Node 5, чтобы не было каши и чтобы каждый кусок отвечал за свою часть работы. ( https://github.com/Rearks/AiRevit )
-
🚀 Excited to share that a survey paper from our RCLN team has been accepted at IJCAI 2026! This work has been done in collaboration with CentraleSupélec.
"Graph Rewiring in GNNs to Mitigate Over-Squashing and Over-Smoothing: A Survey" By Hugo Attali, Nathalie Pernelle, Davide Buscaldi, and Fragkiskos D. Malliaros.📎 https://arxiv.org/abs/2411.17429
Graph Neural Networks are powerful models for learning from graph-structured data, yet their effectiveness is often limited by two critical challenges: over-squashing, where information from distant nodes is excessively compressed, and over-smoothing, where repeated propagation makes node representations indistinguishable. Both phenomena stem from the interaction between message passing and the input topology, ultimately degrading information flow and limiting the performance of GNNs.Our survey also opens a broader discussion on the limits and open questions of graph rewiring: when is modifying the topology truly necessary? How can observed improvements be properly attributed to connectivity changes rather than feature-driven effects? We argue that progress in this area will require clearer problem formulations, more explicit assumptions, and evaluation protocols that make results robust and comparable across settings positioning graph rewiring as a principled structural intervention to better understand how topology shapes learning in GNNs.
Looking forward to presenting our work at IJCAI 2026 at Bremen!
#GNN #MachineLearning #IJCAI2026 #GraphNeuralNetworks #AI #DeepLearning #Research #LIPN
-
Congratulations to Shubhr Singh, who just passed his #PhD on "Graph neural networks for audio analysis"! (at QMUL, London, co-supervised by me while I was there) https://shubhrsingh22.github.io/ #GNN
-
This is work that we presented at last year's #Cosyne workshop on #GNN s https://sites.google.com/bu.edu/gnnworkshop-cosyne2025/home. Better late than never. You can reproduce everything with the associated notebooks. I think it's a good start to learn how to use GNNs to infer something about NNs. https://arxiv.org/abs/2602.13325
-
ML против ядерных отходов. Как мы ускорили вычисление свойств карбидов технеция с помощью нейросетей
Привет Хабр! Меня зовут Радион Зарипов, я — аспирант программы «Науки о материалах» в Сколтехе и прохожу в настоящее время стажировку в Sber AI. Значительная часть работы, о которой пойдет речь, была выполнена мной во время летней практики в AIRI, в группе «Дизайн новых материалов», которая исследует возможности применения вычислительных подходов к прогнозированию новых материалов. Совместно с моими коллегами из Сколтеха, AIRI, Sber AI, РХТУ и ИФХЭ РАН мы недавно опубликовали статью в Acta Materialia , где построили подробную фазовую диаграмму карбида технеция. Это не было бы возможным без применения графовых нейронных сетей, которые заменяют существенную часть вычислений. Здесь мне хотелось бы подробнее рассказать, что именно мы делали и с какими сложностями столкнулись. Текст получился большим и подробным, но если вам интересно, как машинное обучение постепенно меняет материаловедение, эта статья для вас.
https://habr.com/ru/companies/airi/articles/994806/
#Ядерные_отходы #Карбиды_технеция #Фазовая_диаграмма #DFT #ML #GNN
-
Fitterkarma to launch new single ‘Aswang Sa Maynila’ on Valentine’s Day
-
Техпроцесс при участии генеративного искусственного интеллекта на примере создания уникальных Fashion-образов
Здравствуй Хабр! с Вами Андрей — Fashion Data Scientist бренда люксовой одежды Sovereign. Хочу поделиться техпроцессом создания образа (одежды) с помощью нейросетей. Генеративный ИИ для создания одежды — уже не что‑то новое. Midjourney и Stable Diffusion запросто генерируют тысячи стильных образов. Но мы говорим о люксовом сегменте (где мы не в праве использовать стандартные подходы). Большое количество мелочей, уникальные материалы и та самая «аура» недостижимости, которая пропадает в этих самых шаблонных тысячах стоковых образах. Нашей задачей была стало создание «системы», способную генерировать не просто «красивую одежду», а концептуальные эскизы уровня Haute Couture, сохраняя при этом узнаваемость ДНК бренда и техническую осуществимость. Pipeline создания одежды при помощи ИИ
https://habr.com/ru/articles/982294/
#stablediffusion #gnn #stylegan #fashionиндустрия #мода #pipeline #генерация_изображений #стартап #искусственный_интеллект #генеративный_ии
-
“#NeuralNetworks and the #Satisfiability Problem” is the 2019 Stanford PhD dissertation by Salsam. It describes NeuroSAT, a #GNN, that learns to solve propositional satisfiability #SAT, that simple, yet quintessentially NP-complete, problem.
Salsam is an active member of the #Lean theorem prover community, who had worked closely with de Moura.
https://stacks.stanford.edu/file/druid:jt562cf4590/dselsam_dissertation_final-augmented.pdf
-
2️⃣ | Germanische Neue Medizin: #Toleranz für eine tödliche Lehre?
Wer dachte, dass mit dem Tod Ryke Geerd Hamers auch die von ihm ersponnene Germanische Neue Medizin das Zeitliche gesegnet hat, liegt leider falsch. Ein Beitrag von Exakt beleuchtet, wie in einer sächsischen Stadt Weg für diese gefährliche #Schwurbelei geebnet werden sollte. Bernd hat sich das für euch angesehen:
https://skeptix.org/2025/06/10/germanische-neue-medizin-toleranz-fuer-eine-toedliche-lehre/
-
Data graphs, computation graphs, property and #knowledgegraphs, #graphdatabase, probabilistic graph models, #gnn, there is currently an explosion of terms involving "graphs". What are their relations if any?
The Open Risk Academy course "An overview of graph methods in #datascience " aims to put some order in the graph chaos by introducing and relating these concepts in a structured way, resulting in, you've guessed it, a "graph of graphs"!
-
I'm pleased to share this, a preprint of our first work on predicting electrical grids using graph neural networks: "Enhanced Load Forecasting with GAT-LSTM: Leveraging Grid and Temporal Features" led by Ugochukwu Orji https://arxiv.org/abs/2502.08376 #ai4good #forecasting #GNN #electricalgrid
-
An introduction to graph neural networks, with a section on "where to find them", that does not mention at all neural circuits or connectomes. WTF.
-
Как мы в МТС создали библиотеку для работы с графовыми нейронными сетями
Привет, Хабр! Меня зовут Диана Павликова, я работаю ML-инженером. Часто к нам приходят задачи, когда нужно повысить качество работы модели там, где обычными способами это сделать уже не получается. Мы решили применить что-то новое, поэтому обратились к теории графов и написали CoolGraph — open source библиотеку для работы с графовыми нейронными сетями. В этой статье я расскажу, как мы пришли к идее ее создания, как графы помогают улучшить результат, какую архитектуру мы выбрали и для каких задач подойдет этот инструмент. Все подробности — под катом.
https://habr.com/ru/companies/ru_mts/articles/851076/
#coolgraph #gnn #графы #pytorch_geometric #NNConv #GraphConv
-
«А можно быстрее?»: практические советы по ускорению обучения нейросетей
Мы продолжаем изучать, как ускоряют обучение нейросетей. В прошлой статье мы погрузились в теоретические аспекты этой проблемы. Сегодня перейдем к практике. Мы разберем несколько интересных исследований, которые демонстрируют эффективность различных подходов к ускорению нейросетей на разнообразных задачах и датасетах. Затем обсудим практические рекомендации по выбору и комбинированию методов оптимизации и расскажем, какие инструменты лучше использовать для профилирования и мониторинга процесса обучения. В довершение рассмотрим полезные библиотеки для быстрой и эффективной разработки.
https://habr.com/ru/companies/magnus-tech/articles/846012/
#ускорить_обучение_нейросетей #tensorflow #pytorch #автогенчеллендж #машинное_обучение #ускорение_нейросетей #оптимизация_нейросетей #искусственный_интеллект #FastSample #gnn
-
If you are at #isbi2024, come and check our poster on #XAI for #EEG with #epilepsy 🧠🧠🧠
"EXPLAINABLE GRAPH NEURAL NETWORKS FOR EEG CLASSIFICATION AND SEIZUREDETECTION IN EPILEPTIC PATIENTS"
Open version of the paper: https://osf.io/preprints/osf/4n63g
#gnn #graph #neuralnetworks #AI -
Под капотом графовых сетей
Графовые сети - мощный инструмент анализа данных, базирующийся на взаимосвязях объектов в виде графа. В статье рассматриваются различные типы графовых сетей (включая графовые сверточные, рекуррентные и с механизмом внимания) и их применение для решения задач анализа данных. Этот обзор предоставляет всестороннее представление о ключевых аспектах графовых сетей в мире анализа данных. Клац-клац
-
Now published in IEEE Signal Processing Letters! "ATGNN: Audio Tagging Graph Neural Network" https://ieeexplore.ieee.org/document/10403650 #machinelistening #GNN #deeplearning
-
Preprint from us: "ATGNN: Audio Tagging Graph Neural Network" https://arxiv.org/abs/2311.01526 #machinelearning #deeplearning #machinelistening #GNN