Оппенгеймер нашего времени

Сэм Альтман утверждает, что создаваемый им ИИ может уничтожить нас, даже если он ускорит его развитие. Достаточно ли мы знаем о нем?

Прошлой весной Сэм Альтман , 38-летний генеральный директор OpenAI , встретился с любимым буддийским монахом Кремниевой долины Джеком Корнфилдом . Это было на Wisdom 2.0, мероприятии с низкими ставками в Центре искусств Йерба Буэна в Сан-Франциско, форуме, посвященном слиянию мудрости и «великих технологий нашего времени». Двое мужчин заняли огромные стулья с белой обивкой на темной сцене, покрытой мандалой. Даже модератор, казалось, был смущен присутствием Альтмана.

"Что привело вас сюда?" он спросил.

«Да, гм, смотри», — сказал Альтман. «Мне определенно интересна эта тема» — официально, осознанность и ИИ . «Но, ах, встреча с Джеком была одной из величайших радостей моей жизни. Я был бы рад пообщаться с Джеком буквально по любой теме».

И только когда Корнфилд, которому 78 лет и чьи книги, включая « Мудрое сердце» , были проданы тиражом более миллиона экземпляров, сделал вступительное слово, повестка дня стала ясна.

«Мой опыт показывает, что Сэм… я бы хотел сказать, что он во многом является лидером-слугой». Корнфилд был здесь, чтобы засвидетельствовать превосходство характера Альтмана. Он ответил бы на вопрос, который мучает многих из нас: насколько безопасно мы должны чувствовать себя с Альтманом, учитывая, что этот относительно молодой человек в темно-серых ботинках «Челси» и серой вафельной куртке, похоже, контролирует то, как ИИ войдет в наш мир?

Корнфилд сказал, что знал Альтмана несколько лет. Они медитировали вместе. Они исследовали вопрос: как Альтман мог «встроить ценности — обеты бодхисаттвы заботиться обо всех существах»? Как можно «запрограммировать каким-то образом, самым глубоким образом» сострадание и заботу?

Во время выступления Корнфилда Альтман сидел, скрестив ноги, сложив руки на коленях, его поза впечатляла, а лицо выражало терпение (хотя его лицо также давало понять, что терпение — не его естественное состояние). «Я собираюсь поставить вас в неловкое положение», — предупредил его Корнфилд. Тогда монах еще раз обратился к толпе: «У него чистое сердце».

Большую часть остальной части дискуссии Альтман блуждал по своим тезисам. Он знает, что люди боятся ИИ , и считает, что нам следует бояться. Поэтому он чувствует моральную ответственность за то, чтобы прийти и ответить на вопросы. «Было бы крайне неразумно не сделать этого», — сказал он. Он считает, что нам как виду нужно работать вместе, чтобы решить, что ИИ должен и не должен делать.

По собственной оценке Альтмана — заметной в его многочисленных постах в блоге, подкастах и видео-мероприятиях — мы должны чувствовать себя хорошо, но не очень хорошо по отношению к нему как к нашему лидеру в области ИИ. Насколько он понимает себя, он очень умный, но не гениальный «технологический брат» с чертами Икара и некоторыми выдающимися чертами. Во-первых, он обладает, по его словам, «абсолютно бредовым уровнем уверенности в себе». Во-вторых, он демонстрирует пророческое понимание «дуги технологий и социальных изменений в долгосрочной перспективе». В-третьих, как еврей, он одновременно оптимистичен и ожидает худшего. В-четвертых, он превосходно оценивает риск, потому что его мозг не зависит от того, что думают другие люди.

Обратной стороной является то, что он ни эмоционально, ни демографически не подходит для роли, на которую его натолкнули. «Может быть, найдется кто-то, кому это понравится больше», — признался он в марте в подкасте Лекса Фридмана . «Может быть кто-то гораздо более харизматичный». Он осознает, что «довольно оторван от реальности жизни большинства людей». Иногда он также бывает глухим. Например, как и многие в технологическом пузыре, Альтман использует фразу «средний человек», например: «Для меня AGI» — общий искусственный интеллект — «является эквивалентом среднего человека, которого вы могли бы нанять в качестве сотрудника». ».

В Yerba Buena модератор спросил Альтмана: как он планировал присвоить значения своему ИИ?

Одна из идей, по словам Альтмана, заключалась бы в том, чтобы собрать «как можно больше человечества» и прийти к глобальному консенсусу. Вы знаете: решите вместе, что «это системы ценностей, которые следует вводить, это пределы того, чего система никогда не должна делать».

Публика затихла.

«Ещё я бы хотел, чтобы Джек», — Корнфилд, — «просто написал десять страниц: «Вот, какой должна быть коллективная ценность, и вот как мы заставим систему это делать». Это было бы очень хорошо.

Публика стала еще тише.

Альтман не был уверен, будет ли революция, которую он возглавлял, в полноте истории считать технологической или социальной. Он считал, что это будет «больше, чем стандартная технологическая революция». Однако он также знал, проведя всю свою взрослую жизнь среди основателей технологических компаний, что «всегда неприятно говорить: «На этот раз все по-другому» или «Знаешь, мое дело — суперкрутое». Революция была неизбежна; в этом он был уверен. Как минимум, ИИ изменит политику (глубинные фейки уже вызывают серьезную озабоченность на президентских выборах 2024 года), труд (ИИ был в центре забастовки голливудских писателей), гражданские права, слежку, экономическое неравенство, армию, и образование. Сила Альтмана и то, как он будет ее использовать, — это теперь вся наша проблема.

Тем не менее, может быть трудно понять, кто такой Альтман на самом деле; насколько мы должны ему доверять; и насколько он учитывает проблемы других, даже когда он находится на сцене с намерением их успокоить. Альтман заявил, что постарается замедлить революцию настолько, насколько сможет. Тем не менее, сказал он собравшимся, он верит, что все будет хорошо. Или, вероятно, все будет в порядке. Мы — крошечное слово с королевским подтекстом, которое сыграло большую роль в его риторике — должны просто «решить, чего мы хотим, решить, что мы будем обеспечивать это, и принять тот факт, что будущее будет совсем другим и вероятно, намного лучше».

Эта линия тоже не прошла хорошо.

«Много нервного смеха», — отметил Альтман.

Потом он махнул руками и пожал плечами. «Я могу солгать вам и сказать: «О, мы можем полностью остановить это». Но я думаю, что это…»

Альтман не завершил эту мысль, поэтому мы возобновили разговор в конце августа в офисе OpenAI на Брайант-стрит в Сан-Франциско. Снаружи, на улице, неокапиталистическая дворовая распродажа: беспилотные автомобили, собаки, лежащие на солнце рядом с палатками на тротуаре, автобусная станция для неработающей системы общественного транспорта, магазины, предлагающие латте по 6 долларов. Внутри OpenAI представляет собой скромную технологическую компанию: пожалуйста, возьмите Pellegrino из мини-холодильника или наклейку с нашим логотипом.

Лично Альтман более обаятелен, более серьезен, спокойнее и глупее – больше в своем теле – чем можно было бы ожидать. Он симпатичный. Его волосы покрыты сединой. Он носил ту же самую вафельную куртку, и эта одежда быстро стала его торговой маркой. Я был 10-миллиардным журналистом, с которым он разговаривал этим летом. Когда мы сели в звуконепроницаемой комнате, я извинился за то, что заставил его дать еще одно интервью.

Он улыбнулся и сказал: «Очень приятно с вами познакомиться».

О Корнфилде: «Кто-то сказал мне после этого выступления: «Знаете, я очень нервничал из-за того, что OpenAI будет принимать все эти решения о ценностях ИИ, а вы убедили меня, что вы не собираетесь этого делать». принимать эти решения», и я ответил: «Отлично». А они такие: «Нет, теперь я больше нервничаю». Вы позволите миру принимать эти решения, а я этого не хочу».

Даже Альтман может почувствовать извращение того, что он на этой сцене отвечает на вопросы о глобальных ценностях. «Если бы я не был в этом замешан, я бы подумал: « Почему эти ублюдки решают, что со мной будет?» — сказал он в 2016 году Тэду Френду из The New Yorker . Спустя семь лет и долгую подготовку в сфере СМИ он смягчил свою игру. «Мне очень симпатизирует тот факт, что что-то вроде OpenAI должно быть государственным проектом».

Новую атмосферу хорошего парня трудно совместить с волей Альтмана к власти, которая является одной из его наиболее устоявшихся черт. Друг из его ближайшего окружения описал его мне как «самого амбициозного человека, которого я знаю, который все еще находится в здравом уме, а я знаю 20 000 человек в Кремниевой долине».

Тем не менее, Альтман использовал неожиданный подход к объяснению своего взлета. «Я имею в виду, что я еврей со Среднего Запада с в лучшем случае неловким детством, если говорить очень вежливо. И я управляю одним из немногих… — Он спохватился. «Знаете, это несколько десятков важнейших технологических проектов. Я не могу себе представить, чтобы такое случилось со мной».

Альтман вырос старшим из четырех братьев и сестер в пригороде Сент-Луиса: трое мальчиков, Сэм, Макс и Джек, с разницей в два года, а затем девочка Энни, на девять лет моложе Сэма. Если вы не выросли в еврейской семье среднего класса Среднего Запада — и я говорю это по опыту — трудно представить себе скрытую уверенность в себе, которую такая семья может привить сыну. «Одним из самых лучших вещей, которые мои родители сделали для меня, были постоянные (думаю, несколько раз в день?) подтверждения своей любви и веры в то, что я могу все», — сказал Джек Альтман. Полученный в результате запас доверия является фантастическим, наркотическим, оружейным. Они как дополнительный клапан в твоем сердце.

О Сэме обычно рассказывают, что он был мальчиком-гением — «восходящей звездой в мире техно-вундеркиндов», согласно St. Louis Post-Dispatch . Он начал чинить семейный видеомагнитофон в три года. В 1993 году, на его восьмилетие, родители Альтмана — Конни Гибстайн, дерматолог, и Джерри Альтман, брокер по недвижимости — купили ему Mac LC II. Альтман описывает этот дар как «эту разделительную линию в моей жизни: до того, как у меня появился компьютер, и после».

Семья Альтман каждый вечер ужинала вместе. За столом играли в игры типа «корень квадратный»: кто-то называл большое число. Мальчики догадались бы. Энни держала калькулятор и проверяла, кто был ближе всего. Они разыграли 20 вопросов , чтобы разгадать десерт-сюрприз каждого вечера. Семья также играла в пинг-понг, бильярд, настольные игры, видеоигры и шарады, и все всегда знали, кто победил. Сэм предпочел, чтобы это был он. Джек вспоминал позицию своего брата: «Я должен победить, и я за все отвечаю». Ребята также играли в водное поло. «Он бы не согласился, но я бы сказал, что я лучше», — сказал мне Джек. «Я имею в виду, что, несомненно, лучше».

Сэм, рассказал об этом еще в старшей школе. Это удивило даже его мать, которая считала Сэма «просто унисексуалом и технарем». Как сказал Альтман в подкасте 2020 года, его частная средняя школа была «не тем местом, где можно было бы встать и поговорить о том, что ты гей, и это нормально». Когда ему было 17, школа пригласила спикера на Национальный день каминг-аута. Группа студентов возражала, «в основном по религиозным соображениям, но также и по той причине, что геи — плохие люди». Альтман решил произнести речь перед студентами. Накануне он почти не спал. Последние строки, как он сказал в подкасте, были: «Либо у вас есть толерантность к открытому сообществу, либо нет, и вы не можете выбирать».

В 2003 году, когда Кремниевая долина начала восстанавливаться после краха доткомов, Альтман поступил в Стэнфорд. В том же году Рид Хоффман стал сооснователем LinkedIn. В 2004 году Марк Цукерберг стал сооснователем Facebook. На тот момент старший сын пригородной еврейской семьи не стал инвестиционным банкиром или врачом. Он стал начинающим парнем. На втором курсе Альтман и его парень Ник Сиво начали работать над Loopt, одной из первых программ географического отслеживания, позволяющей определять местонахождение ваших друзей. Пол Грэм и его жена Джессика Ливингстон, среди прочих, только что создали программу Summer Founders Program в рамках своей венчурной фирмы Y Combinator. Альтман подал заявку. Он выиграл инвестиции в размере 6000 долларов и возможность провести несколько месяцев в Кембридже, штат Массачусетс, в компании ботаников-единомышленников. Альтман так много работал тем летом, что заболел цингой.

Все-таки с Луптом он особо не отличился. «О, еще один умный молодой человек!» — сказал Хоффман, который до января входил в совет директоров OpenAI, вспоминая свои впечатления о молодом Альтмане. Этого было достаточно, чтобы привлечь 5 миллионов долларов от Sequoia Capital. Но Loopt так и не завоевал популярность у пользователей. В 2012 году Альтман продал компанию Green Dot за 43,4 миллиона долларов. Даже Альтман не считал это успехом.

«Неудача всегда отстой, но неудача, когда ты пытаешься что-то доказать, действительно отстой», — сказал мне Альтман. Он ушел «довольно несчастным», но с 5 миллионами долларов, которые он использовал вместе с деньгами Питера Тиля для запуска собственного венчурного фонда Hydrazine Capital. Он также взял отпуск на год, прочитал стопку книг, путешествовал, играл в видеоигры и, «как настоящий мем о технаре», сказал он, «думал: я собираюсь на некоторое время поехать в ашрам , и это изменило мою жизнь. Я уверен, что я все еще испытываю тревогу и стресс во многих отношениях, но мое восприятие этого таково, что я чувствую себя очень расслабленным, счастливым и спокойным».

В 2014 году Грэм назначил Альтмана президентом Y Combinator, который к тому моменту помог запустить Airbnb и Stripe. В 2009 году Грэм охарактеризовал Альтмана как одного из «пяти самых интересных основателей стартапов за последние 30 лет», а позднее — как «того, каким, должно быть, был Билл Гейтс, когда основал Microsoft… от природы грозный, уверенный в себе человек. »

Пока Альтман был президентом YC, инкубатор ежегодно подавал около 40 000 заявок от новых стартапов. Он заслушал личные выступления 1000 из них. Несколько сотен получили финансирование YC: обычно около 125 000 долларов, а также наставничество и налаживание связей (что само по себе включало еженедельные ужины и групповые рабочие часы) в обмен на передачу YC 7 процентов компании. Управление YC можно рассматривать либо как величайшую работу в Кремниевой долине, либо как одну из худших. С точки зрения венчурных капиталистов (некоторые из которых, как один из них выразился, проводят много времени, не работая, а вместо этого «звонят богатым» со своих яхт), управление YC «проводит полгода, по существу, как вожатый в лагере».

Большую часть своего пребывания в должности Альтман жил со своими братьями в одном из двух своих домов в Сан-Франциско: одном в СоМа, другом в Миссии. Он проповедовал евангелие амбиций, изолированности и масштаба. Он верил в ценность найма людей, которых вы уже знаете. Он верил, что не слишком заботится о том, что думают другие. «Большой секрет заключается в том, что вы можете подчинить мир своей воле в удивительном проценте случаев — большинство людей даже не пытаются», — написал он в своем блоге. «Самые успешные основатели не ставят перед собой задачу создавать компании. Их миссия — создать что-то близкое к религии, и в какой-то момент оказывается, что создать компанию — самый простой способ сделать это». Он считал, что большим недостатком является то, что вы загоняете себя в угол маленькой идеей, если не мыслите достаточно масштабно.

Жизнь Альтмана была довольно прекрасной. Он чрезвычайно разбогател. Он инвестировал в продукты детской мечты, например, в разработку сверхзвукового самолета. Он купил дом препперов в Биг-Суре и наполнил его оружием и золотом. Он участвовал в гонках на своих McLarens.

Он также придерживался техничной утилитарной философии эффективного альтруизма. EA оправдывала зарабатывание кучи денег практически любыми необходимыми способами, исходя из теории, что ее приверженцы лучше знают, как их потратить. Идеология ставила будущее выше настоящего и представляла сингулярность в стиле Восторга, когда люди и машины сольются воедино.

В 2015 году, глубоко в рамках этой структуры, Альтман вместе с Илоном Маском и четырьмя другими людьми — Ильей Суцкевером, Грегом Брокманом, Джоном Шульманом и Войцехом Зарембой — стал соучредителем некоммерческой организации OpenAI. Миссия 501(c)(3) — создать «компьютер, который сможет думать как человек во всех отношениях и использовать это для максимальной пользы человечества». Идея заключалась в том, чтобы создать хороший ИИ и доминировать в этой области до того, как плохие люди создадут плохой. OpenAI пообещала открыть исходный код своих исследований в соответствии с ценностями EA. Если бы кто-то — или кто-то, кого они считали «соблюдающим ценности» и «заботящимся о безопасности» — был готов достичь AGI раньше OpenAI, они бы помогали этому проекту, а не конкурировали с ним.

В течение нескольких лет Альтман продолжал выполнять свою основную работу в качестве президента YC. Каждый день он отправлял основателям множество текстовых сообщений и электронных писем и отслеживал, как быстро люди отвечали, поскольку, как он писал в своем блоге, он считал, что время ответа — «одно из самых ярких различий между великими и посредственными основателями». В 2017 году он рассматривал возможность баллотироваться на пост губернатора Калифорнии. Он был на званом обеде, «жаловался на политику и государство, и кто-то сказал: «Тебе следует перестать жаловаться и что-то с этим сделать», — рассказал он мне. «И я сказал: «Хорошо». Он опубликовал платформу United Slate, в которой изложил три основных принципа: процветание за счет технологий, экономическая справедливость и личная свобода. Альтман отказался от своей заявки через несколько недель.

В начале 2018 года Маск пытался взять под контроль OpenAI, утверждая, что организация отстает от Google. К февралю Маск ушел, оставив во главе Альтмана.

Несколько месяцев спустя, в конце мая, у отца Альтмана в возрасте 67 лет случился сердечный приступ, когда он гремел на озере Крев-Кер недалеко от Сент-Луиса. Вскоре он умер в больнице. На похоронах, как рассказала мне Энни, Сэм выделил каждому из четырех детей Альтманов по пять минут на выступление. Она использовала свой, чтобы ранжировать членов своей семьи с точки зрения эмоциональной выразительности. Она поставила Сэма вместе со своей матерью внизу.

Альтман опубликовал эссе под названием «Закон Мура для всего» в марте 2021 года. Статья начинается так: «Моя работа в OpenAI каждый день напоминает мне о масштабах социально-экономических изменений, которые наступят раньше, чем думает большинство людей… Если государственная политика не изменится адаптируясь соответствующим образом, большинство людей в конечном итоге окажутся в худшем положении, чем сегодня».

Закон Мура, применимый к микрочипам, гласит, что количество транзисторов в чипе удваивается примерно каждые два года, а цена падает вдвое. Закон Мура для всего, предложенный Альтманом, постулирует «мир, в котором на протяжении десятилетий все — жилье, образование, еда, одежда и т. д. — становилось вдвое дешевле каждые два года».

К тому времени, когда Альтман написал это, он покинул YC, чтобы полностью посвятить себя OpenAI. Одним из первых действий компании под его руководством весной 2019 года было создание коммерческой дочерней компании. Создание ИИ оказалось чрезвычайно дорогим; Альтману нужны были деньги. К лету он получил от Microsoft миллиард долларов. Некоторые сотрудники уходят, расстроенные тем, что миссия отходит от «максимального блага человечества». И все же этот переключатель смутил на удивление немногих.

«Что, Илон, который похож на стомиллиардера, будет типа «Непослушный Сэм»?» сказал друг из ближайшего окружения Альтмана. Альтман отказался получить долю в компании, а OpenAI первоначально ограничила прибыль своих инвесторов на уровне 100x. Но многие восприняли это как хитрость. Миллиард раз по сто — это большие деньги. «Если придет Элизабет Уоррен и скажет: «О, ты превратил это в коммерческую деятельность, ты, злой технический человек», — сказал друг Альтмана, — «все в сфере технологий просто скажут: «Идите домой».

Альтман продолжал участвовать в гонках на своих машинах (среди его любимых — Lexus LFA, выпуск которого был снят с производства в 2013 году и, по данным HotCars, «обойдется вам как минимум в 950 000 долларов»). В первые дни пандемии он носил противогаз Армии обороны Израиля. Он купил ранчо в Напе. (Альтман — вегетарианец, но его партнер, Оливер Малхерин, программист из Мельбурна, «любит коров», говорит Альтман.) Он купил дом за 27 миллионов долларов на Русском холме в Сан-Франциско. У него появились модные друзья. В 2021 году Диана фон Фюрстенберг описала его как «одного из моих последних, очень, очень близких друзей». Встреча с Сэмом немного похожа на встречу с Эйнштейном».

Тем временем, когда OpenAI начала продавать бизнесу доступ к своему программному обеспечению GPT, Альтман задумал ряд побочных проектов, готовясь к миру, преобразованному с помощью ИИ. Он инвестировал 375 миллионов долларов в Helion Energy, спекулятивную компанию по производству ядерного синтеза. Если «Гелион» сработает (а это маловероятно), Альтман надеется контролировать один из самых дешевых источников энергии в мире. Он инвестировал 180 миллионов долларов в Retro Biosciences. Цель – увеличить продолжительность жизни человека на десять лет. Альтман также задумал и собрал 115 миллионов долларов для Worldcoin, проекта, который сканирует радужную оболочку людей по всему миру, заставляя их смотреть в сферу, называемую Сферой. Каждый отпечаток радужной оболочки затем привязывается к криптокошельку, в который Worldcoin вносит валюту. Это решило бы две проблемы, созданные ИИ: различение людей от нелюдей, необходимое после того, как ИИ еще больше стирает грань между ними;

Это не портфолио человека с амбициями вроде Цукерберга, который, по сравнению с Альтманом, кажется, довольствуется «построением города-государства, которым можно управлять», как выразился технический обозреватель и подкастер Джатан Садовски. Это портфель человека с такими амбициями, как у Маска, человека, придерживающегося «империалистического подхода». «Он действительно видит себя этим сверхчеловеком, покорившим мир, сверхчеловеком в истинно ницшеанском смысле», — сказал Садовски. «Он сразу создаст то, что нас уничтожает, и спасет нас от этого».

Затем, 30 ноября 2022 года, OpenAI выпустила ChatGPT . Программное обеспечение привлекло 100 миллионов пользователей за два месяца, став крупнейшим запуском продукта в истории технологий. Двумя неделями ранее Meta выпустила «Галактику», но через три дня компания закрыла ее, потому что бот не мог отличить правду от лжи. ChatGPT тоже лгал и галлюцинировал. Но Альтман все равно опубликовал его и заявил, что это достоинство. Миру нужно к этому привыкнуть. Нам нужно принимать решения вместе.

«Иногда аморальность — это то, что отличает успешного генерального директора или продукт от остальных», — сказал мне бывший коллега, который работал вместе с Альтманом в первые годы OpenAI. «Фейсбук технически не был таким интересным, так почему же Цук победил?» Он мог «масштабироваться быстрее и создавать продукты, не ввязываясь в беспорядок».

Вмае 2023 года Альтман отправился в мировое турне по 22 странам и 25 городам. Предположительно, это началось как шанс познакомиться с пользователями ChatGPT, но превратилось в своего рода вечеринку дебютанток. Часто в костюме, а иногда и в серой куртке, Альтман представлял себя дипломатам как неизбежную новую технологическую сверхдержаву. Он встретился с премьер-министром Великобритании Риши Сунаком, президентом Франции Эммануэлем Макроном, премьер-министром Испании Педро Санчесом, канцлером Германии Олафом Шольцем, премьер-министром Индии Нарендрой Моди, президентом Южной Кореи Юн Сук Ёлем и президентом Израиля Исааком Герцогом. Он сфотографировался с президентом Еврокомиссии Урсулой фон дер Ляйен. В нем она выглядит элегантно и невозмутимо, он похож на Где Уолдо? — его телефон виден в переднем кармане брюк, его зеленые глаза вытаращились от усталости и кортизола.

Затем Альтман вернулся домой и, казалось, распаковал не только свой гардероб, но и свою психику. С конца июня до середины августа он много писал в Твиттере. Если вы надеялись понять его, это было золото.

кто сегодня переезжает, Барби или Оппенгеймер?

Альтман опубликовал опрос. Барби потеряла 17 процентов до 83 процентов.

ок, пойду с ОППЕНХАЙМЕРОМ.

На следующее утро Альтман вернулся, чтобы выразить свое разочарование.

Я надеялся, что фильм Оппенгеймера вдохновит целое поколение детей стать физиками, но он действительно не попал в цель.

давайте снимем этот фильм!

(думаю, соцсети удалось сделать это для основателей стартапов.)

Внимательный читатель творчества Альтмана был бы сбит с толку. На протяжении многих лет Альтман проводил параллели между собой и производителем бомбы. Он отметил репортерам, что у них с Оппенгеймером один день рождения. Он перефразировал Оппенгеймера Кейду Метцу в «Нью-Йорк Таймс »: «Технологии случаются, потому что они возможны». Альтман не мог быть удивлен тем, что Кристофер Нолан в своем биографическом фильме не создал бустеристского произведения. В конце своей жизни Оппенгеймер боролся со стыдом и сожалением за свою роль в создании атомной бомбы. «Теперь я стал Смертью, разрушителем миров» — это одновременно и самая известная фраза в Бхагавад-Гите , и то, что Оппенгеймер сказал NBC News, что было у него в голове во время теста Тринити. (Это тоже есть в фильме дважды.)

Альтман был связан с Оппенгеймером на протяжении всего своего мирового турне, когда он обсуждал (в неконкретных терминах) экзистенциальный риск, создаваемый ИИ, и приводил доводы (очень конкретно) в пользу регулирующего агентства по образцу Международного агентства по атомной энергии. Организация Объединенных Наций ратифицировала МАГАТЭ в 1957 году, через четыре года после его создания. Мандат агентства – работать ради международного мира и процветания – для обычного слушателя звучал как отличный аналог. Это крайне раздражало экспертов.

Одна критика касалась его политического цинизма. «Вы говорите: «Регулируйте меня», и вы говорите: «Это действительно сложная и специализированная тема, поэтому нам нужно сложное и специализированное агентство, чтобы этим заниматься», прекрасно понимая, что это агентство никогда не будет создано», — сказал Садовски. . «Или, если что-то действительно будет создано, эй, это тоже нормально, потому что вы построили ДНК этого».

Другая проблема – неопределенность. Как объяснила мне Хейди Клааф, инженер, специализирующаяся на оценке и проверке протоколов безопасности для дронов и крупных атомных электростанций, чтобы снизить риски, связанные с технологией, вам необходимо точно определить, на что способна эта технология. , как он может помочь и навредить обществу — и Альтман придерживается общих слов, когда говорит, что ИИ может уничтожить мир. (Может быть, кто-то будет использовать ИИ, чтобы изобрести супербактерию; может быть, кто-то будет использовать ИИ для запуска ядерного оружия; может быть, ИИ сам восстанет против людей — решения для каждого случая не ясны.) Более того, утверждает Хлааф, нам не нужен новый агентство. ИИ должен регулироваться в рамках вариантов его использования, как и другие технологии. ИИ, созданный с использованием материалов, защищенных авторским правом, должен регулироваться законом об авторском праве. ИИ, используемый в авиации, должен регулироваться в этом контексте.

«Если вы не можете даже удержать свою систему от дискриминации чернокожих людей» — явление, известное как алгоритмическая предвзятость, которое влияет на все, от того, как сортируются кандидаты на работу до того, какие лица помечаются как наиболее привлекательные — «как вы собираетесь помешать ей уничтожить человечество?» — спросил Клааф. Вредные соединения в инженерных системах. «Небольшая программная ошибка может вывести из строя электросеть Нью-Йорка». Обученные инженеры это знают. «Каждая из этих компаний, каждый главный претендент в области искусственного интеллекта обладает ресурсами и фундаментальными инженерными знаниями, чтобы выяснить, как снизить вред в этих системах. Решение не делать этого — это выбор».

В тот же день, когда Альтман проводил опрос Оппенгеймера - Барби , он также опубликовал:

все «творческое» — это ремикс того, что произошло в прошлом, плюс эпсилон и время на качество цикла обратной связи и количество итераций.

люди думают, что им следует максимизировать эпсилон, но хитрость в том, чтобы максимизировать два других.

Летом и осенью OpenAI подвергалась растущему давлению из-за того, что якобы обучала свои модели — и зарабатывала деньги — на наборах данных, заполненных украденными работами, защищенными авторскими правами. Майкл Шейбон организовал коллективный иск после того, как узнал, что его книги использовались без разрешения для преподавания ChatGPT. Федеральная торговая комиссия начала расследование предполагаемого серьезного нарушения компанией законов о защите потребителей. Теперь Альтман утверждал, что творчества на самом деле не существует. Что бы ни думали яркие писатели или разозленные иллюстраторы об их индивидуальности или своей ценности, они просто ремиксируют старые идеи. Очень похоже на продукты OpenAI.

Что касается дикции, математический жаргон придавал уверенности. Матичность — термин, придуманный в 2015 году лауреатом Нобелевской премии экономистом Полом Ромером, описывает математический язык, используемый не для разъяснения, а для введения в заблуждение. «Красота математического языка заключается в его способности передавать истины о мире в предельно простых терминах — E = MC ² », — сказал мне Ной Джиансиракуса, профессор математики и науки о данных в Университете Бентли. «Я читаю его твит снова и снова и до сих пор не знаю, как его разобрать или что именно он пытается сказать».

Джансиракуса преобразовал слова Альтмана в символы. «Используя C для творчества, R для ремикса прошлых вещей, Q для качества цикла обратной связи, N для количества итераций, он говорит C = R + эпсилон*Q*N или C = (R + эпсилон)*Q *Н? По словам Джансиракузы, формулировка Альтмана не проясняет порядок действий. «Означает ли «и N» и количество итераций что-то кроме умножения? Или …"

МИРОВОЙ ТУР АЛЬТМАНА 

Альтман привлекает ненавистников. «Это похоже на фильм 90-х о ребенке, которого перенесли в тело взрослого, а затем ему приходится притворяться и надеяться, что никто не заметит, понимаете?» Мне рассказал Малкольм Харрис , автор «Пало-Альто» . «Как будто он похож на ребенка, который может бросить фастбол со скоростью миллион миль в час, потому что его рука была сломана и неправильно срослась, и теперь он новичок года и питчер высшей лиги, но ему еще 12 лет, и он не умеет» Я не знаю, как что-либо сделать».

«Он умен, как для общественного колледжа штата», — сказал венчурный капиталист из Bay Area. «Вы смотрите «Наследие» ? Вы могли бы провести аналогию с Томом».

Некоторый оттенок — это, несомненно, ревность. Некоторые из них являются реакцией на милость Альтмана на Среднем Западе. Но в основном это основано на глубоком гневе по поводу того, что технокультура вновь укоренилась в клубной жизни белых мужчин. «Знаете, мы» — женщины — «зашли в комнату на секунду, а потом, как только мы начали говорить по-настоящему, они такие: «GTFO», — Мередит Уиттакер, президент Signal и бывший информатор Google ., скажи мне. Единственный выход сейчас – это оказать давление извне. «Я хочу, чтобы на него давили. Типа, встань там, посмотри кому-нибудь в глаза и скажи это дерьмо», — продолжил Уиттакер. «Мы говорим о том, чтобы претендовать на творческую деятельность миллионов, миллиардов людей, а затем использовать ее для создания систем, которые напрямую подрывают их средства к существованию». Неужели мы действительно хотим взять что-то столь же значимое, как художественное выражение, и «выплеснуть это обратно как производную контентную пасту из какого-то продукта Microsoft, который был откалиброван нестабильными кенийскими работниками, которые сами все еще страдают от посттравматического стрессового расстройства из-за своей работы, чтобы убедиться, что это подходит» в рамках вежливого либерального диалога?»

Многие, конечно, рады вернуться к консервативным ценностям, мотивируя это тем, что это хороший бизнес и ощущение победы. «Я определенно думаю, что есть такой тон: « Я же тебе говорил», — рассказал мне о состоянии отрасли другой человек, близкий к ближайшему окружению Альтмана. «Типа: «Вы беспокоитесь обо всей этой ерунде» — эта «ерунда» заключается в разнообразии, равенстве и инклюзивности — «и типа: «Посмотрите, к чему это вас привело». Увольнения в сфере технологий, гибель компаний. Это не результат DEI, а удобное оправдание. Текущее отношение таково: культура пробуждения достигла своего пика. «Тебе больше не нужно притворяться, что тебя волнует».

Чернокожий предприниматель, который, как и почти все технические специалисты, с которыми я разговаривал для этой статьи, не хотел использовать свое имя из-за страха перед властью Альтмана, рассказал мне, что они потратили 15 лет, пытаясь проникнуть в технологический клуб белых мужчин. Они посещали все нужные школы, связанные со всеми нужными учреждениями. Они сделали себя блестящими, успешными и богатыми. «Я бы никому этого не пожелал», — сказали они мне. «Илон, Питер и все их приятели в их маленьком кругу, где они пьют кровь молодых людей или чем они там занимаются — кто собирается заставлять их отрезать крошечный кусочек, любой кусок пирога и делиться, когда в этом действительно нет необходимости?» , Никакого давления? Система прекрасно работает для людей, для которых она предназначена».

С остальными из нас будут обращаться так же, как с нами обращаются сейчас: с, как сказал предприниматель, «явным и длительным пренебрежением».

Семьи воспроизводят социальную динамику. Разница в мощности причиняет боль и часто взрывается.

Это верно в отношении Альтманов. В уведомлении о смерти Джерри Альтмана за 2018 год он описывается как: «Муж Конни Гибстайн; дорогой отец и тесть Сэма Альтмана, Макса Альтмана, Джека (Джулии) Альтмана» — Джулия — жена Джека — «и Энни Альтман…»

Энни Альтман? Читатели блога Альтмана; его твиты; его манифест Startup Playbook ; наряду с сотнями статей о нем будут знакомы Джек и Макс. Они всплывают повсюду, особенно на яркой фотографии в Forbes , вверху профиля, который сопровождал объявление об их совместном фонде Apollo. Они также фигурируют в профиле Тэда Френда об Альтмане в журнале The New Yorker в 2016 году и в дружеских публичных подшучиваниях.

@jaltma: Меня очень расстраивает, когда я вижу статьи, в которых Сэма называют техническим братом. Он технологический брат.

@maxaltman: Он *технология*, брат.

@sama: люблю вас, (технические) братаны

Энни не существует в общественной жизни Сэма. Она никогда не собиралась быть в клубе. Она никогда не собиралась стать сверхчеловеком. Она всегда была человеком, который чувствовал боль мира. В 5 лет она начала просыпаться среди ночи, и ей нужно было принять ванну, чтобы успокоить беспокойство. К 6 годам она задумалась о самоубийстве, хотя и не знала этого слова.

Она часто представлялась людям в лифтах и продуктовых магазинах: «Я Энни Фрэнсис Альтман. Как тебя зовут?" (О Сэме она сказала мне: «Он, вероятно, тоже аутист, но больше склонен к компьютерной математике. Я больше склоняюсь к человечности, гуманности и справедливости».) Как и ее старший брат, она чрезвычайно умна, и, как и ее старший брат, она рано бросила колледж — хотя и не потому, что ее стартап финансировался Sequoia. Она завершила все свои зачеты Тафтса и находилась в тяжелой депрессии. Она хотела жить там, где ей было лучше. Она хотела заниматься искусством. Она чувствовала, что от этого зависит ее выживание. Она закончила обучение после семи семестров.

Когда этим летом я посетил Энни на Мауи, она рассказала мне истории, которые найдут отклик у любого, кто был эмо-художественным человеком в деловой семье или кого глубоко ранили переживания, которые члены семьи, похоже, не понимают. Энни — ее длинные темные волосы заплетены в косу, голос низкий, размеренный и напряженный — рассказала мне о том, как навещала Сэма в Сан-Франциско в 2018 году. У него были друзья. Один из них попросил Энни спеть написанную ею песню. Она нашла свою гавайскую гитару. Она начала. «В середине Сэм молча встает и идет наверх в свою комнату», — рассказала она мне за коктейлем в Пайе, городке хиппи на северном берегу Мауи. «Я такой: продолжать ли мне играть? С ним все в порядке? Что сейчас произошло?На следующий день она сказала ему, что расстроена, и спросила, почему он ушел. «И он что-то вроде: «У меня болел живот», или «Я был слишком пьян», или «слишком накурен, мне нужно было отдохнуть». И я подумал: «Правда? Этот момент? Ты не мог подождать еще 90 секунд?»

В том же году умер Джерри Альтман. У него были проблемы с сердцем, а также сильный стресс, отчасти, как рассказала мне Энни, из-за того, что он ездил в Канзас-Сити, чтобы заниматься своим бизнесом в сфере недвижимости. Родители Альтманов расстались. Джерри продолжал работать, потому что ему нужны были деньги. После его смерти Энни сломалась. Ее тело развалилось. Ее психическое здоровье пошатнулось. Она всегда была губкой для боли в семье. Она впитала больше, чем могла вынести сейчас.

Сэм предложил ей на время помочь деньгами, но потом остановился. В их переписке по электронной почте и текстовых сообщениях его любовь и влияние очевидны. Он хочет вдохновить Энни встать на ноги. Он хочет убедить ее вернуться к золофту, от которого она отказалась под присмотром психиатра, потому что ненавидела те чувства, которые она вызывала.

Среди своих различных художественных проектов Энни создает подкаст под названием « Все люди — люди». В первый День Благодарения после смерти отца все братья согласились записать с ней эпизод. Энни хотела поговорить в эфире о психологическом феномене проекции: что мы навязываем другим людям. Братья перевели разговор на идею обратной связи, а именно на то, как давать обратную связь на работе. После того, как она разместила шоу в Интернете, Энни надеялась, что ее братья и сестры, особенно Сэм, поделятся им. Он внес свой вклад в карьеру их братьев. Компания Джека, Lattice, прошла через YC. «Я подумал: «Вы могли бы просто твитнуть ссылку». Это помогло бы. Ты не хочешь поделиться подкастом своей сестры, на который ты зашёл?» Он этого не сделал. «Джек и Сэм сказали, что это не соответствует их бизнесу».

В первую годовщину смерти Джерри Альтмана Энни вытатуировала на шее слово sch'ma — «слушай» на иврите. Она уволилась с работы в аптеке, потому что у нее было повреждено ахиллово сухожилие, которое никак не заживало, и в третий раз за семь лет она была в прогулочных ботинках. Она попросила Сэма и их мать о финансовой помощи. Они отказались. «Это было как раз тогда, когда я впервые зашла на сайт сахарных знакомств», — рассказала мне Энни. «Я был в такой растерянности, в таком состоянии отчаяния, в таком состоянии растерянности и горя». Сэм был ее любимым братом. Он читал ей книги перед сном. Он сфотографировал ее на барной стойке для школьного проекта. Она чувствовала себя такой понятой, любимой и гордой. "Я был как,Почему? Почему эти люди не помогают мне, хотя могли бы, ничего для себя не платя? »

В мае 2020 года она переехала на Большой остров Гавайи. Однажды, вскоре после того, как она переехала на ферму, чтобы работать на дому, она получила электронное письмо от Сэма с просьбой сообщить ее адрес. Он хотел послать ей памятный бриллиант, сделанный из праха их отца. «Представь, как он отправляет бриллиант из праха моего отца в почтовый ящик, где это одно из тех сельских мест, где есть все эти открытые коробки для всех этих ферм… Это было так тяжело, грустно и злит, но это было также так весело и так нелепо. . Такое ощущение оторванности. Просто отсутствие траха». Их отец никогда не просил быть бриллиантом. Психическое здоровье Энни было хрупким. Она беспокоилась о деньгах на продукты. Трудно было общаться с человеком, для которого деньги значили все, но при этом так мало. "Нравиться, либо вы не осознаете, либо вас не волнует вся эта ситуация здесь», — сказала она. Под «вся ситуацией» она имела в виду свою жизнь. «Вы готовы потратить 5000 долларов — за каждого — чтобы сделать эту вещь, которая была вашей идеей, а не папиной, и вы хотите послать это мне вместо того, чтобы отправлять мне 300 долларов, чтобы я мог иметь продовольственную безопасность. Что?"

Сейчас эти двое разлучены. Сэм предложил купить Энни дом. Она не хочет, чтобы ее контролировали. Последние три года она зарабатывала на жизнь секс-работой, «как лично, так и виртуально», рассказала она мне. Она публикует порно на OnlyFans. Она публикует в Instagram Stories о взаимопомощи, пытаясь связать людей, у которых есть деньги, которыми можно поделиться, с теми, кто нуждается в финансовой помощи.

Она и Альтман — противоположности в чёрном зеркале. Альтман шутит о том, что станет первым в мире триллионером, рассказал мне один его знакомый. (Альтман оспаривает это и попросил меня включить следующее заявление: «Я не хочу быть первым в мире триллионером».) Он посвятил себя созданию программного обеспечения, которое воспроизводит — и превосходит — человеческий интеллект посредством украденных данных и последовательного подключения графических процессоров.

За последний год Энни переезжала более 20 раз. Когда она позвонила мне в середине сентября, ее жилье снова было нестабильным. На ее банковском счете было 1000 долларов.

С 2020 года у нее возникают воспоминания. Она знает, что каждый берет кусочки своей жизни и объединяет их в повествования, чтобы придать смысл своему миру.

Как рассказывает Энни историю своей жизни, Сэм, их братья и ее мать хранили деньги, оставленные ей отцом.

Энни рассказывает историю своей жизни: она чувствовала себя особенной и любимой, когда в детстве Сэм читал ей сказки на ночь. Теперь эти воспоминания кажутся насилием.

Семья Альтман хотела бы, чтобы мир знал: «Мы любим Энни и будем продолжать делать все возможное, чтобы поддержать и защитить ее, как это сделала бы любая семья».

Энни работает над женским шоу под названием HumAnnie о том, что никто на самом деле не знает, как быть человеком. Мы все это делаем.

22 июня 2023 года Альтман надел смокинг и отправился со своим партнером Оливером Малхерином на ужин в Белом доме.

Он действительно походил на персонажа из фильма о путешествиях во времени 90-х: тело слишком маленькое и слишком молодое для всей силы, которую оно должно было нести. Но в основном ему это удавалось. Его смокинг выглядел стильно, что отличало его от другого известного Сэма Кремниевой долины, Сэма Бэнкмана-Фрида., чья неряшливая эстетика сейчас кажется свидетельством моральной неряшливости. С тех пор как Альтман занял пост генерального директора OpenAI, компания не только ослабила свой статус некоммерческой организации. Компания перестала быть очень открытой, прекратила публиковать обучающие данные и исходный код, перестала предоставлять возможность другим анализировать и развивать большую часть своих технологий. Перестаньте работать «ради максимального блага человечества». Но что мог сделать кто-нибудь? В Мюнхене во время своего мирового турне Альтман спросил аудиторию, полную людей, хотят ли они, чтобы OpenAI открыла исходный код своего LLM следующего поколения, GPT-5, после его выпуска.

Толпа ответила громким «да».

Альтман сказал: «Ого, мы определенно не собираемся этого делать, но это интересно знать».

В своем офисе в августе Альтман все еще говорил о своих темах. Я спросил его, что он делал за последние 24 часа. «Итак, одна из вещей, над которой я работал вчера, заключается в следующем: мы пытаемся выяснить, сможем ли мы привести ИИ в соответствие с набором человеческих ценностей. Мы добились хорошего прогресса в техническом плане. Теперь возникает более сложный вопрос: окей, чьи ценности?»

Он также обедал с мэром Сан-Франциско, пытался сократить свой 98-страничный список дел и поднимал тяжести (хотя, как он сказал с некоторой покорностью: «Я отказался от попыток по-настоящему подзадориться»). ). Он приветствовал новых сотрудников. Он ужинал со своими братьями и Олли. Он лег спать в 20:45.

Это дезориентирует, империалист в красивой одежде. По его словам, одна из самых ценных вещей Альтмана — это мезуза, которую его дедушка носил в кармане всю свою жизнь. Он и Олли хотят поскорее завести детей; ему нравятся большие семьи. Он так сильно смеется, что иногда ему приходится ложиться на пол, чтобы дышать. Он «постарается найти способы воплотить волю людей в то, что мы построили». Он знает: «ИИ — это не чистая история, приносящая только пользу», «Здесь все будет потеряно» и «Это очень интересно и естественно иметь неприятие потерь. Люди не хотят слышать историю, в которой они являются жертвами».

Его публичный образ, по его словам, «лишь косвенно совпадает со мной».

Перевод, источник https://nymag.com/intelligencer/article/sam-altman-artificial-intelligence-openai-profile.html