Многие думают, что искусственный интеллект — это технология, которая изменит войну: сделает армии автономными, заменит солдат роботами, начнет сама выбирать цели — а может быть, наоборот, позволит точнее принимать решения и сократить число жертв. Но так ли это на самом деле? И какой именно ИИ в этом смысле имеется в виду? Шеф-редактор Republic-Weekly Максим Заговора поговорил с исследователем ИИ, автором бюллетеня The AI Pravda, лектором в Holon Institute of Technology Микаэлом Горским о том, стоит ли бояться «терминаторов» и может ли машина когда-нибудь отменить войну.
— Недавно компания Palantir, которая занимается поставками программного обеспечения для армии США, выпустила манифест, в котором заявила, среди прочего, что Кремниевая долина обязана участвовать в обороне государства, и поддержала идею превосходства одних культур над другими. Вы испугались, когда это прочитали?
— Сам по себе этот манифест недорогого стоит — это лишь сделанное на скорую руку попурри из стократ произнесенных тезисов плюс пара галлюцинаций. Смущает меня, скорее, очередное подтверждение печального факта. Люди, достигшие сногсшибательных успехов в бизнесе, создающие потрясающие технологические продукты, в детстве явно не читали нормальных книг. Их моральное/гуманитарное развитие в ранние школьные годы было ограничено знаниями математики и физики, а также научной фантастикой. Увы, эти добрые люди не читали в 10–12 лет ни Сетон-Томпсона, ни Сент-Экзюпери и в результате не в курсе, что такое эмпатия и почему надо сопереживать всему живому. И про ответственность за тех, кого приручили, они тоже не знают.
Мы видим, что многие технологические мультимиллиардеры: Питер Тиль (соучредитель Palantir. — Прим. ред.), Марк Цукерберг, Илон Маск, Давид Сакс (основатель платежной системы PayPal. — Прим. ред.), можно долго перечислять, — очень хорошо понимают технологии, экономику, маркетинг, но, кажется, ничего не понимают про людей. У каждого из нас были такие одноклассники: по физике и математике отличники, а по литературе двоечники. На благоприятной почве технологических революций последних десятилетий (интернет, мобильная связь) такие люди заработали огромные деньги, стали властителями умов, а в последние 10 лет постепенно пробрались и в американскую публичную политику.
Питер Тиль и Илон Маск, 2000 год. Фото: Paul Sakuma / AP / TASS
И с этой точки зрения манифест Palantir меня не удивляет. Там есть пункты, которые выглядят просто как бред. Например, про то, что бесплатный Gmail не спасет человечество. Чего? Куда? Это очень персональный текст: видно, что кому-то очень хотелось это написать.
И в том же ряду там появляется мысль, что одни цивилизации ценнее других. Но если ты читал правильные книжки в детстве, ты не говоришь такие вещи. Потому что история нас научила, что за фразой «одни люди лучше других» следует много всего нерадостного.
— Техническим гикам не место в политике?
— В течение долгого времени американская публичная политика не предполагала возможности столь активного вовлечения денег в политику. Миллиардеры прошлого не могли выделять ошеломительные суммы для воздействия на избирателей и политиков. В 2010 году Верховный суд наделил юридических лиц гражданскими правами, чем открыл ящик Пандоры, из которого повылезали технологические предприниматели-миллиардеры.
Исторически в политику шли люди социальных профессий: юристы, журналисты, общественные деятели. Эти люди всю жизнь развивали свою «гуманитарную мышцу». Но сейчас вокруг и снаружи трамповской администрации мы видим тех людей, жизненный и профессиональный опыт которых радикально отличается — все их успехи связаны с технологиями. А успешный человек обычно думает: я пришел к победе правильным способом, значит, все устроено так, как я понимаю. И дальше ему кажется, что люди не нужны.
Если я правильно понимаю, то в большинстве стран мира такая ситуация была бы невозможна. Глава ИКЕА не рулит Швецией.
Возможно, это закончится после ближайшего изменения политического баланса в США. Может быть, окажется флюком. Поэтому я не уверен, что об этой ситуации надо думать как о системной угрозе.
— Тогда давайте все-таки про ИИ. В одном из пунктов манифеста Palantir говорится: вопрос не в том, будет ли создано оружие на базе ИИ, а в том, кто и с какой целью его создаст. Минуточку, а разве это оружие все еще не создали?