Andrey Gershun

[Mikael Alemu Gorsky @mikael_alemu]

Great news for us, 👴🏾 older partners, professors, and executives :-)
Generative AI helps us to work faster and better than younger consultants, lawyers, researchers, and developers!

Here's why: After decades in professional services, I've noticed something game-changing. Leaders of consulting firms, legal practices, IT companies, and research groups share traits that make us exceptionally good at using 🤖 Generative AI tools, thanks to years of managing knowledge workers.

Think of managing partners and senior executives who've spent many years directing teams of professionals. Our experience in breaking down complex projects, spotting patterns, and maintaining quality control is exactly what makes AI tools sing.

Sure, we in our 50s and 60s don't pull all-nighters anymore. We process information more slowly and need more recovery time. But when we are using AI tools, our years of experience give us a killer advantage. While younger professionals might work faster, our skills in managing smart people help us extract far more value from AI.

We've spent years explaining tasks to teams, checking work quality, and managing complex projects. These same skills now let us write better prompts, spot errors quickly, and integrate AI outputs more effectively.

The result? Many of us find ourselves outperforming younger professionals who haven't yet developed the pattern recognition and quality control skills that come from years of leadership.

The tables have turned. Welcome to the age where Generative AI amplifies the wisdom of seasoned professionals.

[Andrey Gershun @agershun]

@mikael_alemu Humans are the culmination of millions of years of evolution, uniquely adapted to perform tasks beyond the reach of other species.

[Alexander Gambarian @gambarian]

Elon Musk vs. OpenAI, или самый важный суд в истории человечества

Последний день високосной зимы 2024 года порадовал нас (d/acc) беспрецедентным иском Илона Маска к OpenAI и двум основным его главам - Сэму Альтману и Грегу Брокману. К сожалению, практически все обзоры этого иска страдают теми же пороками, что и все новости о Маске - у каждого есть своё сильное мнение (так говорят по-русски или это неправильная калька от strang opinion?) и подача материала строится вокруг этого мнения.

У меня тоже есть своё мнение о Маске, и я его не скрываю - я считаю, что он один из очень редких адекватных людей на планете и пока что не видел ни в его действиях, ни в его словах ничего, с чем бы был серьёзно несогласен. Но, как мы знаем, opinions are like assholes - everybody's got one, поэтому своё я тоже засуну туда, где ему самое место в юридическом обзоре, и постараюсь быть объективным, но свои biases я дожен изложить в начале статьи, ибо хоть я и первый не-профессор Гамбарян в 4-5 поколениях, генетика штука страшная. А так как речь идёт об очень важном иске, и заголовок этого эссе - не кликбейт, я превращусь в юриста и далее буду писать по пунктам, чтобы вам было легче меня опровергать.

Над иском работали очень хорошие юристы, и читать его одно удовольствие, поэтому я не буду пытаться превзойти людей круче меня и буду рассказывать об иске в том же порядке, в котором он написан. Кстати, это не просто иск, а motion for jury trial - просьба (заявка? требование? чортов юр.руский) на рассмотрение судом присяжных. Постараюсь объяснить всё настолько доступно, чтобы понял пятиклассник и даже не-гуманитарий.

1. Краткое описание

В 2015 Илон Маск собрал команду, цель которой была не допустить концентрации искусственного интеллекта в руках одной фирмы - Google. Для того, чтобы предотвратить опасности, исходящие от ИИ, Маск создал организацию OpenAI, главные особенности которой - это работа на пользу человечества, независимость, non-profit и open source, то есть прозрачная некоммерческая контора, которая делает ИИ с открытым исходным кодом.

Со временем, стараниями ответчиков Альтмана и Брокмана, OpenAI превратилась в непрозрачную коммерческую организацию, которая создаёт ИИ с закрытым исходным кодом, зависимую от Microsoft и фактически работающую на него - то есть полная противоположность тому, что создал Маск и куда вложил (а точнее - пожертвовал, это важно) 44 миллиона долларов.

В соответствии с уставными документами OpenAI и их соглашинием с Microsoft, все лицензии на использование их технологий обнуляются, как только ИИ доходит до уровня "сильного ИИ", или Artificial General Intelligence, AGI. Маск предполагает, что GPT-4 уже близок к AGI, а грядущие разработки это уже настоящий AGI, поэтому все лицензии должны быть отозваны у Microsoft. Как минимум Маск требует отчётности и прозрачности - тех самых основных вещей, для которых и был создан OpenAI.

2. Опасности искусственного интеллекта

Иск начинается с описания опасностей, которые искусственный интеллект представляет для человечества. Интересно, что кроме Стивена Хокинга упомянут и процитирован Bill Joy, основатель Sun Microsystems, который в своей статье 2000 года "Why The Future Doesn't Need Us" цитирует самого Унабомбера (не случайны в моём шутошном тг-канале, куда я скидываю смешные мемасики, ни его название "22 слова", ни картинка).

Об опасностях ИИ писали сперава фантасты (лучше всего, я считаю, получилось у Шекли, а не у Азимова - особенно в рассказе, где они сделали супер-юморной ИИ, который решил уничтожить человечество, потому что это было бы очень иронично, ну и конечно же Страж-птица, которая описывает парадокс сайберсекьюрити). Позже об опасностях ИИ стали говорить те самые люди, которые его создали - от Тюринга и Винера с фон Нейманом, до Мински с Маккарти, и до Хинтона с Бенжио. Если вы незнакомы с этими именами, у вас есть прекрасная возможность погулять по rabbit holes википедии, а если вы любите слушать лекции на английском - послушайте последнюю лекцию Хинтона. То, что каждым мыслящий человек должен услушать всего Минского, который есть в ютюбе, я и не говорю.

Вот основные опасности сильного ИИ:
а) замещение профессий и как следствие тотальная безработица
б) создание неотличимых от реальности фото, аудио и видео и как следствие невозможность отличить правду от лжи
в) облегчение создания биологического оружия и как следствие возможность его создания террористами и прочими bad actors (следите за веганами, они самые опасные)
г) кибербезопасность, использование ИИ преступными группировками - от создания военного ИИ, который отключит противнику все критические инфраструктуры (и потом пойдёт дальше отключать весь мир), до потери контроля над ИИ, который будет противостоять этому. Это, кстати, сценарий на мой взгляд неизбежный, поэтому прямо сейчас тем, кто хочет выжить, надо мотать в Новую Зеландию - но это совсем другая история.
д) потеря контроля над управлением судьбой человечества - на ютюбе доктора компутерных наук на серьёзных щщах говорят о том, что раз ИИ будет умнее человека, то пусть он за нас и решает что и как.
e) мы точно не знаем как, но ИИ нас перегонит и съест, ибо это эволюционная неизбежность - см. книгу Александра Маркова "Рождение Сложности", а также учебник биологии страших классов.

3. История создания OpenAI

В 2012 году Илон Маск начал всерьёз задумываться об опасности уничтожения искусственным интеллектом человеческой цивилизации (в лучшем случае) или всей человеческой или даже биологической жизни на Земле (в худшем случае).

Одна из опасностей по дороге к этому была в том, что Google прикупил себе DeepMind и таким образом все самые крутые учёные по ИИ оказались в одной мега-корпорации, у которой к тому же неограниченные деньги, компьют и влияние. Концентрация таких сил в одних руках сильно повышает шансы на катастрофу, и Маск решил, что надо создать противовес - антикоммерческий центр исследований ИИ, с фокусам на безопасность человечества.

Весёлый момент из иска - цитата попавших в печать слов одного инвестора после встречи с Хассабисом, основателем DeepMind, что самое лучшее, что он бы мог сделать для человечества - это пристрелить Хассабиса прямо там на встрече, и это было в 2012 году.

Партнёром Маска по созданию OpenAI стал Сэм Альтман, но вся эта контора не могла бы работать без ещё одного умного еврея, и Маск выманил из гугля Илью Суцкевера, известного там, что сделал с Хинтоном AlexNet (кстати, где сам Алекс Крижевский? как может учёный такого уровня пропасть с радаров? в NSA работает?).

На фотографии, иллюстрирующей это эссе, глава NVIDIA Дженсен Хуанг дарит первый в мире суперкомпьютер DGX-1 "Илону Маску и команде ОpenAI", именно эту дарственную надпись он оставил на корпусе этого чуда техники. Именно так и выглядело становление OpenAI - Маск и его команда людей, которые спасают человечество от опасностей ИИ.

4. Что произошло потом?

После создания нон-профита Маск пожертвовал туда 44 миллиона долларов и, что гораздо дороже и ценнее, кучу своего времени. Вообще мне нравятся слова Маска о том, что единственная реальная валюта, которая у нас имеется - это время. Вспомните об этом, когда будете переживать из-за денег - деньги придут и уйдут, а время только уходит, и безумно жаль тратить его на мысли о любой другой валюте - лучше подумайте о судьбе человечества, а если не хотите так глобально - как смотать в Новую Зеландию, чтобы спасти своих детей от неминуемой надвигающейся на нас катастрофы.

Чорт, я ж обещал что буду юристом, а не как обычно мысями по древу (здесь была бы шутка про squirrel institute) - но ничего не поделаешь, где-то я прочитал фразу "у юристов всё всегда кстати", так что терпите.
Постепенно OpenAI стал уходить от принципов, на которых был основан, и началось это с романа с Microsoft, который для начала вложил (инвестировал!) миллиард долларов.

Коммерческие инвестиции в нон-профит стали началом конца собственно нон-профита. Открытый и прозрачный по задумке создателей OpenAI морфировал в доселе невиданную структуру, которую я даже описывать не буду, просто посмотрите ответчиков по иску, вот они - OPENAI, INC., a corporation, OPENAI, L.P., a limited partnership, OPENAI, L.L.C., a limited liability company, OPENAI GP, L.L.C., a limited liability company, OPENAI OPCO, LLC, a limited liability company, OPENAI GLOBAL, LLC, a limited liability company, OAI CORPORATION, LLC, a limited liability company, OPENAI HOLDINGS, LLC, a limited liability company.

А потом Microsoft дали OpenAI 10 миллиардов долларов, технологии стали коммерческими и закрытыми - отсюда, собственно, и иск.

5. Юридические основания

а) Нарушение контракта (Breach of Contract)
Договорились о создании открытого прозрачного опенсорсного нон-профита, а получили ровно наоборот
б) Нарушение условий обещания (Promissory Estoppel)
Обещали Маску строить для человечества, а сами построили коммерческую контору
в) Нарушение доверенных обязательств (Breach of Fiduciary Duty)
Брали у Маска деньги, неиллюзорные миллионы баксов под обещание сделать хорошо для человечества, а развели коммерцию
г) Несправедливые коммерческие практики (Unfair Business Practices)
Маск жертвовал свои деньги на благотворительность, а из этого выросла коммерция. Отличный патент - начинаешь бизнес как благотворительный нон-профит, набираешь под это дело лучшие умы человечества и миллионы долларов, а потом бац - и в дамки с миллиардами, блэк джеком и микрософтами.
д) Отчётность (Accounting)
Маск хочет узнать, как и на что потратили его деньги, которые он им пожертвовал на создание некоммерческого открытого ИИ

***********

Почему этот иск настолько важен для человечества?

Во-первых, это один из немногих исков, в основе которого лежит просьба к суду защитить человечество от гибели. Несколько лет назад в США был прецедент -
Juliana v. United States, когда куча школоты решила засудить правительства США за то, что оно слишком мало делает для защиты от глобального потепления
О, до чего же хорошо писать! Я-то думал, что их окончательно спустили с судебной лестницы ещё в 2021 года - ан нет, им снова дали исправить иск и суд продолжит слушать этот иск. Not until the fat lady sings, как говорится.

Ещё в первый раз, когда климатическую школоту погнали из суда, оставшаяся в меньшинстве судья написала "если корабль полным ходом идёт на айсберг, а капитан забил на это с приборами, суд не должен оставаться в стороне" - и вот недавно суд в Held v. Montana вынес решение о том, что право на прекрасную и чистую планету является конституционным правом граждан США, ждём окончательного решения.

Во-вторых, этот иск установит правила игры и главные понятия. Для того, чтобы решить, отзывать ли лицензии у Microsoft или нет в связи с достижением AGI, суд должен установить, что же это такое? Так как никто до сих пор не смог создать определение AGI, с которым бы все вокруг согласились, суд будет вынужден создать прецедентное определение AGI.

В-третьих - и это самое важное - Маск хакнул юридическую сингулярность. Юридическая сингулярность - это когда скорость роста технологий становится такой, что юридическая система не способна за ней угнаться и любые законы и регуляции, когда они выйдут после многочисленных обсуждений, комитетов и подкомиссий, будут уже неактуальными.

Маск пошёл иным путём - сразу в суд, минуя политиков. Это очень, очень, очень круто. Более того, в своих грядущих регуляциях бюрократы уже будут иметь заложенный судом framework, что значительно ускоряет процесс создания регуляции и её имплементации.

***********

Пара слов в защиту OpenAI, как бы я её вёл - "у нас не было выбора, нас заставили".

Когда ближе к 2020 году начался стремительный рост вычислительных мощностей, необходимых для тренировки нейросетей, OpenAI не смог бы выполнить свою миссию, не сакентовавшись с Microsoft - банально не было бы компьютеров и данных, необходимых для того, чтобы весь этот проект остался релевантным.

А когда обнаружилось, насколько крут GPT-4, ребята из OpenAI закрыли код (и веса, и датасеты, вообще всё) - ибо, как сказал Хинтон о ЛеКуне "он за опенсорс ИИ, непонятно тогда почему он не хочет опенсорснуть ядерное оружие". Это было сделано с той самой целью, с которой основали всю эту контору - защитить человечество, и закрытость их моделей она не ради коммерции, а ради нас с вами.

Спасибо тем, кто осилил этот труд, надеюсь теперь стали понятнее и суть иска, и аргументы сторон, и - что самое главное - важность этого иска и переезда в Новую Зеландию.

И напоследок - (Epstein didn't kill himself) куда пропал Илья?

P.S. вот же ж дебил, забыл про trial by jury
Во-первый, это усиливает непредсказуемость результатов процесса, а во-вторых я гораздо больше доверяю решению 12 рандомных людей, чем любому правительству.

[Andrey Gershun @agershun]

@karpathy I run Llama-2-7B on Mac M1 Max 32 Gb with 3 seconds per token. Thank you for llama.c !

https://t.co/auDa2eq0uX

[AMPL Optimization @AMPLopt]

Watch @OpenAI ChatGPT speak AMPL! 🤩

[Andrey Gershun @agershun]

@Lik04ka The grandfather of all OO-programming languages

[Andrey Gershun @agershun]

@preetster Wonderful! Thank you! I spend hours to fix this issue for the Figma plugin.

[Andrey Gershun @agershun]

@webstandards_ru Есть ли возможность использовать компоненты не только с React?

[Andrey Gershun @agershun]

@KSDaemon Зачем париться об 1 проценте рынка!?

[Andrey Gershun @agershun]

@ToolabsLive @FigmaPlugins @kat_wlodarczyk @figmadesign Can you add Rough Figma plugin to the list?

https://t.co/PvG4GU8LcX

[Figma Plugins 🔌 @FigmaPlugins]

Rough #figmaplugin
Rough is a plugin for Figma that lets you convert any objects to the sketchy, hand-drawn-like style

https://t.co/Gjjo3zEq1A

@figmadesign

[Andrey Gershun @agershun]

Rough #figmaplugin

Just received an approval from @figmadesign on new Rough Figma plugin. You can convert any objects to sketching and hatching style

https://t.co/PvG4GU8LcX

[Andrey Gershun @agershun]

Just sent Rough Figma plugin for approval. Many thanks to @preetster for legendary Rough.js library

[Andrey Gershun @agershun]

@brandonesc @rogie Just sent the Rough plugin to Figma for approval

[Andrey Gershun @agershun]

@tsafin Для наглядности Твиттер дополнил Ваш пост рекламным блоком 😂

[Andrey Gershun @agershun]

@R_Batinic @figmadesign I am working currently on something similar for Figma, and looking for beta-testers. Could you help me with it?

[Margo McCabe @margo_hdb]

T minus 1⃣ hour til our AlaSQL showcase, tune in to hear from the creators of this awesome #javascript #SQL database! Designed to work in browser & #Nodejs, it's fast & super easy to use.

You can still RSVP ⬇️👩‍💻🙌

#OpenSource #Databases #tech
https://t.co/eokxMnTwCk

[Harper @harper_fast]

It was fun to learn more about the incredibly popular #InMemory, #ClientSide #SQL #Database, #AlaSQL. Special thank you to the creators, Mathias & Andrey for taking the time to share with us. You can watch the full showcase here:
https://t.co/HKu2j5WGLf

[Harper @harper_fast]

Check out a blog by our very own @margo_hdb on the super popular client-side in-memory #SQLDatabase, #AlaSQL
https://t.co/GS16LwZTQY

[Margo McCabe @margo_hdb]

Watch our Q&A with the creators of AlaSQL, the awesome #javascript #SQL database, below ⬇️

Designed to work in browser & #Nodejs, AlaSQL is fast & super easy to use. Definitely worth checking out!

#OpenSource #Databases #tech
https://t.co/0D8dkOlWgD