Samat Galimov

software development consulting ex-CTO for @meduzaproject, ex-fellow at @article19org,

[Samat Galimov @samat]

@dvaletin покажи!

[Samat Galimov @samat]

Очень красивая статья про то, куда движется программирование в целом! (и как следствие, предсказание, получится ли достичь рекурсивного саморазвития и све��хинтеллекта)

https://t.co/HrbA9MiVg1

Одним абзацем для опытных техдиров: разработка больших систем — это моделирование реальности, важна когерентность моделей между собой, наша главная задача — управление сложностью. Нейросети хорошо оптимизируют замкнутые задачи с быстрыми петлями обратной связи и бессмысленны, когда нужно дожидаться ответа из реального мира, а большинство настоящего софта — второго типа. Примененяя модели для изменения больших систем, мы прямо сейчас идем в ловушку, из которой потом будем мучительно выбираться.

❧

Автор умудрился о��ъяснить суть разработки больших систем на пальцах, так что перескажу некоторые тезисы. Рекомендую почитать первоисточник.

❧

IT-системы моделируют реальный мир. В хороших программах, разные модели говорят на одном языке, автор называет это когерентностью системы. В плохих — каждая отдельная модель корректна, но они несовместимы между собой и из-за этого для каждого изменения приходится кучу всего переделывать.

Вообще, софт постоянно нужно менять из-за меняющихся требований. Поэтому, скорость и стоимость внесения изменений — это один ключевых параметров качества софта.

Обычно, с добавлением фичей, с ростом системы, её качество падает. Чем ниже когерентность — тем больше сил нужно тратить на поддержание работоспособности и тем ниже скорость доставки новых бизнес-фич. Автор предполагает, что есть переломная точка, после которой скорость доставки фичей уходит в ноль.

Все, кто работал с легаси большими системами, знают эту ловушку.

В статье очень красивая иллюстрация кода как графа и гениальная анимация того, как если с каждой фичей уделять достаточно сил на улучшение системы, то со временем она становится всё более стройной, а если чуть-чуть оставлять мусора — как уже через 100 коммитов всё превращается в клубок спагетти.

[Samat Galimov @samat]

Автор делает вывод, что нейросети плохо поддерживают и тем более наводят порядок в больших си��темах. И как следствие — вряд ли смогут поддерживать своё собственное развитие, тот самый рекурсивный сверхинтеллект, взрывным ростом которого нас пугают.

Заканчивается статья тем, что весь современный важный опенсорс — это во многом пример того, как люди десятилетиями поддерживали внутреннюю гармонию (когерентность) крупных систем. И что хорошо бы не разломать всё это за пару месяцев с помощью ИИ.

Даже если не согласен с выводами автора, можно поучиться качеству концептуализации мира. Красиво!

https://t.co/HrbA9MiVg1

[Samat Galimov @samat]

Нейросети хорошо оптимизируют модели изолированных, замкнутых задач, типа шахмат или го, где небольшой набор правил описывает всю вселенную и можно запустить «быструю петлю обратной связи» и плохи в оптимизации моделей, которые для проверки требуют обращения в реальный мир с его задержками.

Большинство задач, для которых мы пишем софт — второго типа.

[Samat Galimov @samat]

@SynthPotato This violent delights have violent ends

[Samat Galimov @samat]

@margaritasforza @jiang_yanliholi Большая Атня

Әтнә :)

[Samat Galimov @samat]

@doodlestein I did watch some of the videos. Could not watch them because of the speech quality and cadence (too slow) — did you watch them end to end yourself?

[Samat Galimov @samat]

@doodlestein I base my assumptions on the AI output I have watched and read before. Will try your videos, sorry for replying before watching

[Samat Galimov @samat]

@nickcammarata Cool research, very bad writing :( needs a proper editor. I sure you can afford one, right?

Here is the proper one pager

[Samat Galimov @samat]

@doodlestein Cool idea, might make a lot of money

Ultimately bad for the soul, as we should not consume AI slop, it rots our brains :(

[Samat Galimov @samat]

Есть две основных гипотезы, как нейросети сжимают и хранят информацию:

1. Каждый нейрон отвечает за какой-то концепт: например, отдельный нейрон для кошек, отдельный для собак.

2. Нейроны отвечают за несвязанные концепты: например, один нейрон для кошек и цифр и другой нейрон для собак и цветов. Это гипотеза полисемантичности, и ��на сейчас основная. Отчасти поэтому эксперты боятся, что нейросети слетят с катушек и устроят скайнет, а мы и не заметим, пока не станет слишком поздно.

Вчера один из главных исследователей в этой области написал, что ему кажется, что мы ошибались и верна первая гипотеза и реально «понять» нейросеть и надежно управлять ее поведением. Условно, выключить нейрон, который отвечает за «вранье в собственных интересах».

Такие вот хорошие новости.

Первоисточник — статья в 20 тысяч слов и ей отчаянно не хватает редактуры. Зато внутри много интерактивных иллю��траций!

[Nick @nickcammarata]

interpretability might be the most important scientific problem in the world right now, as I don't think we can solve alignment if we don't know what we're building. I think I have good news about it. I co-authored early work in mechanistic interpretability at OpenAI and came away pessimistic, because neural networks appeared to fold into arbitrary tangled knots. years later, I started openai's first large-scale automated interpretability project, finding about 2% of neurons legible with the primitive tools we had

with modern agentic tools and a much closer look, the picture looks totally different. the vast majority in models up to trillions of parameters are legible, and their circuits beautiful. many famous examples of tangled neurons turned out to be misunderstood. The roadblocks I expected mostly aren't there. I now think ambitious interpretability will be solved by the time we need it most, and possibly quite soon, as automated scientists keep improving. it may be a bitter lesson for interpretability: the simple thing, at absurd scale, works

https://t.co/zHij5zwKGT

[Samat Galimov @samat]

@temporarymine ну текущие штуки от openai не очень понятно как полезны!

[Samat Galimov @samat]

OpenAI опубликовали решения 372 открытых математических задач, которые десятки лет не могли решить ученые-математики.

1. Очень прикольная теория заговора, что там подозрительно мало задачек по криптографии. (Если мы посмотрим научные журналы начала прошлого века, то обнаружим, что в 1940 все публикации на тему ядерного распада прекратились. Но не потому, что исследований не было, совсем даже наоборот) Всё со��ременное шифрование, включая криптовалюты, держится на нескольких десятках математических предположений. Причем часто мы не то, что доказали, что их нельзя взломать, просто самые умные люди в этой области попытались придумать, как их взломать и не нашли.

2. А свежие публикации OpenAI показывают, что машина порой использует «инопланетные приемы» (как знаменитый 37-й ход AlphaGo). То есть движется к решению не тем путем, каким обычно идут люди.

3. При этом, множество решений и доказательств «уродливые», не элегантные, людям потребуется много времени и усилий, чтобы проверить и понять построения машин. Если бы статьи такого качества прислал человек — их бы почти наверняка не стали бы публиковать. И вообще, открытые задачи в математике — это что-то вроде маяков на берегу, к которым ты идешь по прекрасным холмам, изучая окрестности. Большой ли смысл прилететь туда на вертолете?

https://t.co/gf3MyHoHzA

4. Реакции математиков на анонс очень разные — от энтузиазма (там могут быть столько новых идей!) до депрессии (они за день уничтожили мою область исследований). Вот довольно занимательный сборник 100+ реакциий.

https://t.co/NUKdj7EYRL

❧

Вообще, почти у всех не-математиков очень извращенное понимание, что такое математика. Такое ощущение, что школа и универ всеми силами пытаются привить ненависть к этому искусству, и для этого скрывают его суть.

Стат��я Пола Локхарда «Плач математика», ясно показывает (и даже дает почувствовать), что в школьной «математике» нет ни капли настоящей математики и какая она на самом деле красивая, простая и увлекательная.

Особенно рекомендую её тем, кто считает, что он «гуманитарий», и кто ненавидит математику ещё со школы. По математическому обряду, она везде в PDF, который невозможно нормально читать с телефона, так что собрал страничку для удобного чтения: английский оригинал и хороший перевод. Рекомендую!

https://t.co/srRuAfSpxt

—

Лучшая сатира на этот счет, где вместо математических доказательств, OpenAI публикует 500 лучших концовок фильмов: «теперь не нужно сидеть по 2 часа в кинотеатре».

https://t.co/zVfMqdJ3lG

[Endings FourHundredAndNinetySeven @Endings500]

FOR IMMEDIATE RELEASE:

October 6th, 2026

OpenAI Releases the Final Ten Minutes of 500 Previously Unreleased Films, Ushering in a New Era of Movie Watching

[Samat Galimov @samat]

@fOfFVopSRbUU0G5 Catch 22

[Samat Galimov @samat]

@truetobetrue Ты не поверишь! :)

[Samat Galimov @samat]

@jitbit And late to the party

Now if history is any guide, they will totally dominate the market in 10 years