Искусственный разум выходит из-под контроля

Первым забил тревогу об угрозе гибели человечества от искусственного интеллекта (ИИ) известный предприниматель и инженер Илон Маск. Он обратился к миру с предложением замедлить внедрение технологий, которые будут не только облегчать человеку жизнь, но и принимать за него решения, мыслить, предсказывать будущее, писать стихи.

Бесконтрольное развитие ИИ - джинна, выпущенного из бутылки, по мнению всемирно известного "технологического гуру", приведет к тому, что его невозможно будет отключить и в один момент он может "уничтожить человечество".

Опасения генерального директора SpaceX, Tesla и Twitter* Илона Маска поддержала тысяча влиятельных представителей IT-индустрии, в том числе сооснователь Apple Стив Возняк, визионер Юваль Ной Харари, подписавшие письмо с просьбой приостановить по меньшей мере на полгода разработку систем мощнее распространенного по всему миру чат-бота GPT-4, чтобы за это время подготовить протоколы безопасности.

Обеспокоенность разработчиков самых продвинутых технологий разделяют чиновники, политики, банкиры. В конце марта американский банк Goldman Sachs выдал отчет, из которого следует, что искусственный интеллект, а также основанные на нем сервисы и приложения совсем скоро приведут к сокращению 300 миллионов рабочих мест по всему миру.

Больше всего пострадают профессии, связанные с бухгалтерией, банковской деятельностью, административной и офисной работой. Выступая перед конгрессом США Джек Кларк (соучредитель компании Anthropic, американского стартапа в области искусственного интеллекта) предупредил, что скорость развития ИИ-технологий настолько возросла, что не только политики, но и даже сами исследователи ИИ не успевают отслеживать новые ступени прогресса. Уже в этом году риски ИИ довольно высоки, но буквально через год-другой они станут таковы, что все известные нам сегодня глобальные угрозы на их фоне померкнут. Из ИИ-лабораторий в любой момент могут вырваться "интеллектуальные агенты и инструменты пострашнее вирусов".

Большую опасность таят в себе технологии, обеспечивающие непосредственное взаимодействие техники и сознания. С их помощью поклонники новомодной концепции трансгуманизма стремятся с помощью новейших нано-, био-, информационных и когнитивных технологий создать супер-человека, изменить его биологическую природу, сделать его неуязвимым к болезням и природным катаклизмам, чтобы он мог интеллектуально и физически превзойти самого себя. Еще в 2012 году Национальный совет по разведке США предрек, что в ближайшие пятнадцать лет основной тенденцией станет расширение "врожденных человеческих возможностей" при помощи так называемых НБИК-технологий.

Некоторые экспериментальные НБИК-разработки уже были представлены широкой общественности. Эдвард Сноуден рассказал о дистанционном мониторинге нейронов (Remote Neural Monitoring), который позволяет осуществлять, в буквальном смысле, телепатическое общение, то есть напрямую передавать звуковые и визуальные сообщения, видеть и слышать чужими глазами и ушами. О такой полиции мыслепреступлений и чтении мыслей на расстоянии предсказывал в "Розе Мира" писатель-мистик Даниил Андреев.

Сторонники скорейшей разработки суперИИ порой не ведают, что творят. Сооснователь Google Ларри Пейдж публично высказывает идеи о "цифровом боге", и в беседе с Илоном Маском обвиняет его в излишней человечности.

В моду входит оптогенетика, призванная помочь всем желающим улучшить врожденные качества и особенности организма с помощью управления мозговой активностью. Для этого зарубежные ученые предлагают использовать генно-модифицированные нейроны, способные синтезировать светочувствительные белки, содержащиеся в глазных клетках. Их деятельностью можно управлять при помощи световых сигналов, влияя тем самым на мозговую активность. Одним из пионеров в этой области вживления мозговых имплантов считается стартап Neuralink. Желающим стать суперменами, через небольшое отверстие в черепе вживляют 100 проводов и 3000 электродов, за ухом располагают небольшой блок, который передает данные на компьютер. Компания Kernel проводит эксперименты по вживлению имплантов (чипов) в мозг, чтобы помочь человеку улучшить память, справиться с наркозависимостью, депрессией, болезнью Альцгеймера и другими заболеваниями.

Увлеченные идеей трансгуманистической революции готовы к любым экспериментам. Они считают, что сейчас большинство не готово к технологическому улучшению: не каждый решится просверлить отверстие в голове, да и не всем это по карману. Мозговой имплант для лечения болезни Паркинсона, например, можно приобрети за 35–100 тысяч долларов, искусственное сердце – за 100–200 тысяч долларов. При этом участникам экспериментов обещанный эффект не гарантируется. Но фанаты-трансгуматисты готовы идти до конца и даже рисковать собственной жизнью, превращаться в подопытных кроликов, чтобы убедить людей поскорее становиться суперменами, обретать суперспособности и вставать на путь бессмертия. Британский кибернетик Кевин Уорвик нисколько не сомневается в том, что всех, решивших остаться обычными людьми, новый технически улучшенный вид Homo sapiens "будет рассматривать как низших существ, точно так же, как люди сейчас рассматривают обезьян или коров".

Обычным землянам ничего не остается, как надеяться, что появление полулюдей–полуроборотов в ближайшем будущем не состоится. Но кто знает, что творят в закрытых лабораториях Запада, стремящегося обогнать XXI век?

Технологическая гонка приобретает невиданный темп. Ведущие корпорации и научные центры хотят опередить время, не считаясь ни с чем. Заказчиками их разработок выступают военные, крупные корпорации, богатые, страдающие неизлечимыми недугами. Ведущие ученые предупреждают, что интерес к искусственному интеллекту уже сегодня так высок, что не понадобится терминатор, чтобы уничтожить человечество. Летающие и плавающие беспилотники ежедневно убивают тысячи людей. Технологии суперобмана с помощью нейросетей совершенствуется быстрее закона Мура, и через год будет уже поздно остановить вырывающийся из-под контроля прогресс. ChatGPT – известный чатбот на основе искусственного интеллекта, предназначенный для ответа на текстовые запросы мошенники успешно используют для создания программ-вымогателей и фишинговых писем. Они научились легко обходить встроенные в него ограничения для предотвращения использования бота в преступных целях.

Доктор Томас Хартунг, профессор гигиены окружающей среды и инженерии в Школе общественного здравоохранения Блумберга имени Джона Хопкинса и Инженерной школе Уайтинга в Балтиморе приступил к созданию "биокомпьютеров" на основе выращенных им так называемых органоидов мозга, интеллекта в тарелке, представляющего собой клеточные культуры размером с точку. Они содержат нейроны, способные выполнять функции человеческого мозга. Воплощению смелых идей доктору Хартунгу мешает лишь то, что создание органоидного интеллекта (ОИ) ОИ сопряжено с этическими проблемами. Пока не удастся установить могут ли органоиды думать самостоятельно, иметь ментальность "донора" или чувствовать боль, массовое применение таких технологий запрещено.

При этом не надо забывать, что сегодняшние нейросети пока далеки от совершенства: они могут выдавать некорректную информацию, а их "фантазии" легко принять за реальность.

Об этом предупреждают авторы законопроекта по регулированию искусственного интеллекта. Документ, внесенный нашими парламентариями в Госдуму, должен определить ответственность разработчиков и исключить случаи использования ИИ мошенниками, предусмотреть запрет на использование "умных помощников" в критически важных отраслях. Для того, чтобы ИИ держать в одной упряжке, может быть выбран единый госоператор крупнейшей ИИ-системы, который будет оказывать услуги компаниям.

В других странах тоже пытаются регулировать "умные сети". Китай хочет проверять безопасность систем генеративного ИИ до начала их массового распространения. В США задумались над разработкой норм, регулирующих применение ИИ. Италия и Германия в марте ввели временные ограничения на использование чат-бота ChatGPT для обработки данных пользователей.

На Западе считают, что России не стоит торопиться с принятием ограничительных мер, ибо отставание наших разработок колоссально. На карте мира с обозначением вычислительной мощности суперкомпьютеров Российской Федерации отвели более чем скромное место.

Ведь только одна из систем США по своей мощности превышает производительность всех российских кибер-систем. Наше отставание в области суперкомпьютинга оценивают примерно в десятилетие, а по исследованиям в области создания и обучения программ искусственного интеллекта еще больше. Ведь для развития этого направления, как рассуждают в недружественных странах, требуются специальные ускорители вычислений, а купить их сегодня негде из-за введенных экспортных ограничений на поставку GPU-ускорителей в Россию и Китай. США надеются, что за несколько лет отрыв нашей страны в области ИИ-приложений многократно увеличится и они смогут оказаться на гребне технического прогресса.

Но наши противники не учли, что мы нацелились не догонять, а создавать свои, более совершенные и безопасные технологии. Пусть наши недруги преграждают нам путь к своим традиционным разработкам, замкнутым на использовании привычных микросхем, модулей процессоров, чипов, видеокарт, построенных на традиционной вычислительной архитектуре.

Российские же ученые сосредоточены на принципиально новом подходе к хранению, передаче, обработке огромных информационных массивов, так называемых нейроморфных вычислениях, созданных на основе изучения работы головного мозга, способного во много раз превзойти возможности бездушных машин.

При этом никому не придется вживлять в голову микросхемы или другие предметы. На смену обычному "компьютерному железу" придут нейроморфные процессоры, созданные на стыке биологии, физики, математики, информатики и полупроводников. Их преимуществом является возможность искусственных нейронов обучаться "на лету", одновременно передавать, хранить и обрабатывать информацию в одной клетке, развиваться и адаптироваться по аналогии с образом мышления человека.

Основой для создания процессоров нового поколения послужат новейшие разработки нейробиологии и систем, напоминающих работу биологического мозга. Уже в ближайшем будущем они не только ускорят выполнение трудоемких вычислительных задач "на лету" с минимальным энергопотреблением, но также откроют новые возможности цифровой среды, подсмотренные в живой природе.

Искусственный интеллект в нашей стране создавался не для того, чтобы поработить природу человека, а служить людям: помогать в поисках преступников, быстрее диагностировать заболевания, обрабатывать огромные массивы данных, регулировать дорожное движение, выдавать свои прогнозы и подсказывать, как грамотнее управлять ресурсами и улучшать жизнь миллионов людей.

Разве плохо, что на предприятиях "Ростеха", например, начали оценивать качество деталей авиационных двигателей с помощью иновационного способа люминесцентного контроля с применением машинного зрения и нейросетевых технологий (разработка "ОДК-Сатурн")? Искусственное зрение выявляет крошечные дефекты, в том числе трещины, корольки, спаи и другие, которые не может распознать человеческий глаз. А заодно и моментально провести расчет их геометрических характеристик, классификацию, выявить брак. Такое чисто российское ноу-хау позволило кратно увеличить пропускную способность участков контроля и ускорить весь производственный процесс.

В принадлежащей госкоропорация "Росатом" компании "Цифрум" создан отдел искусственного интеллекта для проведения научно-технических работ в области передовых нейроморфных систем искусственного интеллекта в партнерстве с МГУ имени М.В. Ломоносова и Российской академией наук. Российские ученые создают новую лабораторию нейроморфного искусственного интеллекта на базе Национального центра физики и математики (НЦФМ), которая и займется конструированием новейших вычислительных систем искусственного интеллекта.

Нейроморфные процессоры понадобятся для решения самых сложных задач по обработке больших данных – от использования природных ресурсов и кодирования ДНК до авиакосмической индустрии, атомной энергетики, строительства городов с новым качеством жизни. Разработки наших ученых помогут людям мгновенно ориентироваться в экстремальных условиях повышенной радиации, в космосе, на океанских глубинах. Такую технику будут отличать высокая скорость работы, безграничные возможности, связанные с непрерывным обучением.

Совершенствованием нейроморфных вычислений сегодня занимаются не только российские ученые, но и десятки зарубежных компаний, которые не жалеют денег на исследования в области таких систем, но пока их работы находятся на начальной стадии.

Опередив другие страны в этой области исследований, мы могли бы быстрее обеспечить свой технологический и промышленный суверенитет. Наши успехи будут во многом зависеть от слаженной работы российских ученых и разработчиков и от того, сможет ли государство обеспечить стабильное финансирование наших ноу-хау и создать для них надежную законодательную базу.