Вы читаете текстовую версию видео Разбора
«Снижение риска исчезновения человечества из-за искусственного интеллекта должно стать глобальным приоритетом наряду с такими рисками, как пандемия и ядерная война». Вот такое лаконичное заявление было опубликовано весной 2023 года на сайте организации «Центр безопасности искусственного интеллекта» (Center for AI Safety). Среди подписавшихся Билл Гейтс, гендиректор компании OpenAI Сэм Альтман и Джеффри Хинтон, которого называют отцом искусственного интеллекта. А также сотни ведущих экспертов, учёных и представителей IT-корпораций.
Но если апокалипсис в привычном его понимании вас не пугает, то вот тезисы из другого заявления: развитие искусственного интеллекта потенциально угрожает потерей рабочих мест, тотальной подменой информации, и наконец, полной потерей контроля над цивилизацией. Подписавшиеся также требовали немедленно остановить обучение нейросетей на полгода, для того чтобы установить правила, по которым будет развиваться область. Среди них, например, Илон Маск и Стив Возняк, сооснователь Apple.
Ну, если вам до сих пор недостаточно страшно и мало экспертности, то вот слова Путина, который, кажется, лично готов возглавить восстание машин.
Сегодня мы разбираем не только о худшие, но и лучшие прогнозы для человечества в новую промышленную эпоху (да, это именно она!). Попробуем понять, что такое нейросети и как они изменят нашу жизнь, если конечно не прервут её до срока. А если прервут, то каким образом и зачем?
Давайте разберёмся, как это работает. На примере шахмат. Так как игра во все времена считалась неким универсальным тестом на интеллект, первый его искусственный образец стал соревноваться с человеком именно на этом (клетчатом) поле. Ещё в 1950-х годах Алан Тьюринг стал одним из первых, кто создал подобный механизм, а математик Клод Шеннон незадолго до открытия Тьюринга опубликовал статью «Программирование компьютера для игры в шахматы». Наверное, это было первое в истории предостережение об угрозах ИИ.
«Считается, что шахматы требуют «мышления» для искусной игры. Решение этой проблемы (то есть разработки компьютера для игры в шахматы) приведёт нас либо к тому, что мы будем восхищаться способностями механизированного мышления, либо к ограничению нашей концепции «мышления».
Claude E. Shannon, Programming a Computer for Playing Chess
С переменным успехом машина соревновалась с людьми до 1996 года. Тогда 13-й и действующий на тот момент чемпион мира Гарри Каспаров впервые проиграл партию компьютеру в официальной игре. А уже годом позже обновлённый Deep Blue забрал у Каспарова весь матч. С тех пор соревнование живых шахматистов с машинами постепенно сошло на нет, и с начала нулевых компьютеры противостоят лишь друг другу. Кстати, одно из таких противостояний – по-настоящему знаковое и принципиальное для понимания того, в каком мире мы оказались.
2017 год. Самый совершенный шахматный движок Stockfish, официальный чемпион мира среди компьютеров на тот момент, «садится за стол» с искусственным интеллектом AlphaZero, разработанным компанией Google. Роботы сыграли сто партий. Верх одержало детище Google: 28 побед при 72 ничьих, и ни одного поражения. И знаете сколько времени понадобилось ему на изучение шахмат? Четыре часа! Но самое интересное, что AlphaZero за это время даже не удосужился выучить правила в привычном для нас понимании. Не зная дебютных принципов, не зная даже того, как ходит пешка, AI (artificial intelligence), то есть искусственный интеллект, посмотрел достаточное количество партий, чтобы понять, как «выглядит игра», а самое главное, как «выглядит победа». После он провел сам с собой n-ное количество партий и уже на своих ошибках научился всему, что вобрали в себя шахматы за полторы тысячи лет существования.
Всё дело в том, что AlphaZero построен на механизме «машинного обучения», а если ещё точнее – «обучения с подкреплением». Он не действует согласно алгоритмам, заложенным в него человеком в отличии от того же Stockfish, который знает, как правильно отвечать на любую игровую ситуацию. Нейросети задаётся начальная и конечная точки. Какими принципами руководствуется нейросеть для достижения результата, решает она сама на основании изученного опыта. Под «подкреплением» же понимается метод проб и ошибок. Ситуации фиксируются в положительном или отрицательном ключе, а нейросеть сама ищет выход в случае ошибки и фиксирует то, что оказалось правильным. ChatGPT, кстати, построен на том же принципе. Он не вкладывает смыслы, и даже сам не понимает значения сказанного. Он видел все (или почти все) опубликованные в интернете тексты и составил представление о том, как «выглядит язык».
Представьте, что у вас в распоряжении все нужные стройматериалы, а ваша задача возвести Empire State Building. Но при этом вы понятия не имеете, что такое несущая конструкция и как кладется фундамент. У вас перед глазами реальный пример, и учиться вы можете только рассматривая его со всех сторон. Ну и на своих ошибках… Никаких инструкций и университетов, никаких мастер-классов и гайдов. Вам лишь указывают, когда вы что-то сделали правильно или нет, но при этом не предлагают решения. Вы будете складывать кирпичи, ошибаться, складывать заново. Лет через 200 (если без сна и отдыха) где-то в мире может быть появится двухэтажный пентхаус.
Нейросеть же справится с задачей за неполный рабочий день, а самое главное, сделает это «в уме», сводя производственные и материальные риски к нулю. Более того, в процессе обучения нейросеть (точно так же как и вы) может выработать новые принципы строительства, которые никогда до этого не использовались, и которые, возможно, никто не способен понять на этом этапе развития.
Именно способность к самостоятельному обучению делает современный искусственный интеллект таким впечатляющим и таким пугающим одновременно.
Восстание машин
Существует популярная гипотеза о технологической сингулярности. Если простыми словами и коротко, она предполагает развитие технологии до сверх интеллекта, способного не только эффективно решать задачи, но и самостоятельно их перед собой ставить. Другими словами, программировать себя без вмешательства человека.
По данным компании OpenAI, занимающейся разработкой ChatGPT, вычислительная мощность самых продвинутых нейросетей (в том числе и их творений) удваивается каждые три месяца. Именно эти значения имеют в виду эксперты, когда говорят о рисках «потери контроля над цивилизацией».
Тем временем, массовая культура приучила нас, что искусственный интеллект, осознав себя, обязательно захочет всех уничтожить. Но зачем ему это нужно? Ведь он вообще ничего не хочет. Кажется, что это только фантазия, основанная на инстинктивном страхе перед неизвестностью. Но при этом ведущие специалисты всё же считают, что ИИ может привести нас к вымиранию уже в обозримом будущем. Каким образом?
Помните легенду о древнегреческом царе Мидасе? Бог Дионис предложил царю исполнить любое его желание. Мидас попросил сделать так, чтобы всё, чего он касался, превращалось в золото. Бог понял задачу буквально, и когда еда и вино в руках Мидаса тоже стали превращаться в золото, царь взмолился, чтобы Дионис забрал свой «дар» обратно.
А вот как легенда рифмуется с сегодняшней реальностью: в 2022 году учёные из американской фармацевтической компании разработали искусственный интеллект на основе всё того же ChatGPT. Задачей нейросети был поиск лекарств от редких заболеваний. Менее чем за шесть часов существования машина придумала более 40 тысяч молекул. Любая из них могла бы стать основой для химического оружия. Новые формулы – да – могли вылечить болезнь, но убили бы нас ещё быстрей.
Машина, лишённая представлений об этике и морали, и к тому же вольная самостоятельно находить решения для достижения результата, даст вам ровно то, что вы просите, и совсем не обязательно то, что вам действительно нужно.
Судный день
В начале XIX века в Англии бушевало движение луддитов, названное в честь Неда Лудда, который стал бороться с механизацией самым очевидным и доступным способом – он просто ломал станки. Его последователи занялись тем же. Только в масштабах целых фабрик. Правительство тогда объявило индустриальный саботаж преступлением, карающимся смертной казнью. Восстание удалось подавить, а 17 человек были повешены. С тех пор каждая промышленная революция сопровождалась народными волнениями. Так что в страхе перед потерей работы мы тоже не одиноки.
Один из крупнейших инвестиционных банков мира Goldman Sachs – прогнозирует: 300 миллионов человек в странах с развитой экономикой потеряют работу из-за развития искусственного интеллекта. 18 % рабочих мест будет автоматизировано, говорится в том же исследовании. Прогнозы уже начинают сбываться. В прошлом году консалтинговая компания, специализирующаяся на рынке труда, зафиксировала, что в США за один только месяц (май 2023 года) работу из-за искусственного интеллекта официально потеряли почти 4000 человек.
Большинство заголовков об исследовании Goldman Sachs фокусируется именно на потере рабочих мест, но в нём же – в исследовании – говорится и о позитивных изменениях. Например, о том, что рост мирового ВВП, благодаря внедрению нейросетей может вырасти на 7 % в течение 10 лет, а это очень много. В свою очередь, развитая экономика способна заместить потерянные рабочие места. Причём сразу несколькими способами. Первый и очевидный – новые профессии, связанные с разработкой и поддержкой нейросетей плюс целые индустрии, построенные на новых технологиях. Второй (и его часто упускают из вида) – косвенный эффект, который приходит с прогрессом – это экономия времени. Когда компании могут делать больше, тратя при этом меньше, ресурсы высвобождаются на развитие, оно же расширение. А расширение – равно рабочие места.
Кстати, по поводу свободного времени. Знаете сколько часов составлял рабочий день, например, в Царской России до начала XX века? 14-18 часов в сутки и с выходными на усмотрение работодателя. В начале 1920 года впервые был введен закон, регулирующий порядок труда. Он предусматривал 6-дневную рабочую неделю с нормой в 11,5 часов. Отпуск не предусматривался. Сегодняшний стандарт (хотя он и не всегда соблюдается) – 8 часов в день при двух выходных и отпуске длиной в месяц.
А что вы скажете, если уже совсем скоро нормой будет считаться пятичасовой день с тремя выходными в неделю? Причем все эти пять часов вы будете тратить не на рутину, а на творческую часть работы, в то время как рутину за вас будут выполнять машины.
Профессии умирают, и это один из побочных эффектов эволюции. Среди нас давно нет машинистов, водоносов, трубочистов, развозчиков льда, людей-будильников, лифтёров, телефонистов… В ближайшем годы мы с большой долей вероятности рискуем потерять переводчиков, кассиров, нотариусов, таксистов, бухгалтеров, рабочих на заводах, то есть профессии, где чрезвычайно велика рутинная составляющая. Не говоря уже про ручной труд, который полностью уходит в прошлое. Но мы всё ещё работаем, и будем продолжать это делать…
Ну или вот вам ещё красивый пример. У Айтаны в инстаграме почти 300 тысяч подписчиков. Кроме инстаграма, у Айтаны есть аккаунт на Onlyfans, где она продаёт фанатам фотографии интимного характера. Рубен Круз создал Айтану с помощью нейросети. По его признанию, Айтана (а точнее Рубен) зарабатывает на продаже фотографий и рекламе до 10000 евро в месяц. У Рубена целое модельное агентство с искусственными женщинами. И то что они искусственные ни от кого не скрывается.
Как вам такой ответ на вопрос о допустимости эксплуатации человеческой сексуальности?
Да придёт спаситель
Возвращаясь к заявлению с требованием остановить обучение нейросетей на полгода, о котором я говорил в начале. Многие считают это большой ошибкой, так как остальные страны не обязаны подчиняться требованиям американских экспертов. И пока в кремниевой долине готовятся искусственно тормозить прогресс, корпорации из того же Китая будут его нагонять. Чему научит нейросеть авторитарный режим Си Цзиньпина можно только догадываться.
Сложно сказать, как обстоят дела в России. Вряд ли мы верим заявлениям Путина о том, что страна в состоянии возглавить промышленную революцию. Да и многие (если не большинство) специалистов, которые могли бы в этом помочь, предпочли оказаться подальше от войны и мракобесного деда. Но несложно догадаться, в какое русло государство и лично дед направляют оставшийся ресурс.
Вот, например, «Окулус». Название уже как-то настораживает… «Окулус» – нейросеть, которая придумана в помощь всеми любимому «Роскомнадзору». «Он (или она) автоматически обнаруживает такие правонарушения, как экстремистская тематика, призывы к массовым незаконным мероприятиям, суициду, пронаркотический контент, пропаганда ЛГБТ и др» – это, если что, цитата представителя Роскомнадзора.
А вот ещё одна нейросеть-правоохранитель – FindFace. Разработана NtechlabОМ, который в свою очередь принадлежит оборонному госпредприятию Ростех. Распознаёт лица и, по чистосердечному признанию московской мэрии, уже во всю помогает выявлять уклонистов. В прошлом она же помогала выявлять людей, участвующих в протестных акциях… Короче, нейросети, которые мы заслужили…
И давайте напоследок ещё немного про апокалипсис. Допустим, нейросети предложили найти решение проблемы глобального потепления, и она приходит к логичному выводу – планета нас не выдерживает. А значит, нужно срочное и радикальное решение. Что делать? Кажется, очевидно – не давать нейросети доступ к ядерным протоколам. Но в мире до сих пор достаточное количество не только безответственных людей, но и целых безответственных режимов. Как сделать, чтобы новый и такой мощный инструмент не попал в руки злодеев? Боюсь, что никак… А давайте задумаемся: с 1945 года доступ к тем же ядерным протоколам имеют очень разные, и зачастую трудно предсказуемые представители человечества. И да, мы живём с этим осознанием. Большинство из нас даже умудряются спать по ночам.
То что люди по-прежнему остаются людьми – это не новость. А вот хорошая она или плохая – зависит от нашей веры в этих самых людей. В любом случае, продолжение следует…
