#tracr — Public Fediverse posts

Компилятор, который галлюцинирует

Начнем с простого. Вы скачали нейросеть, и теперь у вас на диске лежит файл на несколько гигабайт, внутри которого миллиарды чисел. Этот файл можно запустить и он будет делать всякие осмысленные штуки: писать текст, отличать котов от собак на фотографиях, переводить с китайского. То есть перед нами работающая программа. Только исходного кода к ней нет, и никогда не было. Дальше в статье мы разберем идею, которая из этого же наблюдения и выросла. Она звучит так: а давайте напишем компилятор, который берет понятную человеку программу и превращает ее прямо в веса нейросети. Звучит странно. Но чтобы понять, зачем это нужно и почему это красиво, придется сначала заглянуть в обычные компиляторы и немного в азы ИИ. Без них дальше будет непонятно.

https://habr.com/ru/companies/selectel/articles/1066052/

#интерпретируемость_нейросетей #RASP #Tracr #трансформеры #компиляторы #механистическая_интерпретируемость #веса_модели #selectel

I was listening to #BBCWorldService and a programme about the #diamond industry. I learnt #DeBeers has created a #blockchain based system, #Tracr, to track the source of diamonds and store immutably. This could be a great use of the tech. However it seems to be a completely proprietary system and does not run on top of one of the large blockchains. So what guarantees immutability? If nothing else, De Beers themselves can take down or change data?

Difficult to find any real information.