Саркис Григорян:

Добрый вечер! Сегодня четверг, 19:00, а значит снова мы встречаемся в эфире радио Mediametrics в передаче «Искусство интеллекта», где будем разговаривать о том, что связано с искусственным интеллектом, с интеллектом вообще и о том, какие изменения в этой связи нас ждут. Сегодня у нас очень интересный гость, Сергей Карелов, экс-топ-менеджер больших международных компаний, таких, как IBM, Silicon Graphics, Cray Research. Независимый эксперт и ведущий прекрасного, уникального и очень редкого блога, который ещё даже на русском языке, который называется «Малоизвестное интересно». Я всем зрителям настоятельно рекомендую найти этот блог Сергея, и подписаться. Потому что тот контент, те темы, которые поднимаются в этом блоге, очень редко где вы увидите на русском языке вообще, но даже на английском. Поэтому я думаю, что сегодня будет крайне интересная беседа. Сергей, большое спасибо, что уделили время и пришли к нам. Надеюсь, что будет сегодня хорошая беседа. Тема сегодняшней нашей передачи заявлена как «Реальный ИИ». Мы слышим много разных названий относительно искусственного интеллекта, сильный, слабый, такой, такой. Реальный ИИ, расскажите, что это такое. 

Сергей Карелов:

Во-первых, спасибо, что пригласили, заранее извинюсь перед слушателями, потому что голос у меня немножко сел, простуженный, потому временами будут сморкаться чихать. Ну а теперь по поводу реального ИИ. Дело в том, что этот термин ещё абсолютно не укоренился. Если вы встретите его где-то, то под реальным ИИ понимают реальный, настоящий, тот, что будет general искусственный интеллект, уже такой, как у человека. Но на самом деле, термин real AI, то, о чем я хочу рассказать, не имеет к этому никакого отношения. Это не значит реальный, настоящий. Семантика этого термина, она уходит real politic, помните, есть такое, реальная политика. Что такое реальная политика? Есть политики, которые много говорят, которые говорят об идеологии, о морали, о том, о сем. Но когда дело доходит до реальных действий, то все говорят, возобладала real politic, то бишь практические интересы. И не просто практические интересы масс чьи-то, а практические интересы тех людей, власти, от кого зависит, куда политика повернётся. С искусственным интеллектом, на самом деле, то же самое. Абсолютно то же самое. Есть точка зрения исследователей, и многие исследователи у вас вот здесь очень интересно рассказывают про то, что есть, что может быть, куда это может пойти. Есть точка зрения бизнеса, который тоже говорит о том, что интересно бизнесу, какие замечательные перспективы могут быть, какие приложения, какие устройства. Ну а дальше возникает вопрос, что из этого будет, то, что рассказывают исследователи, то, что рассказывает бизнес. В чем-то, да, но по большому счёту, всё равно будет не то. Будет то, что захотят те, от кого это зависит, правительства ведущих стран, тогда, когда они поймут, что это их стратегический интерес. Просто чтобы пример привести, почти полвека развивалась ядерная физика и, в общем-то, Мария Кюри, Бор, все там что-то делали, исследовали модели. А через полвека правительства нескольких стран, ведущих стран, поняли, что, мать честная, в этом есть наш большой, практический, шкурный интерес и взялись за это. И появились программы государственные в 4 странах. Через пять лет появилась ядерная бомба. Сейчас, на самом деле, мы находимся примерно на той же стадии с искусственным интеллектом, тоже почти полвека всё это развивается, много чего интересного, исследований, приложений. Но вот буквально в течение самых последних 1-2 года начали этим интересоваться серьёзные люди, правительства ведущих стран. Уже в 50 с лишним странах приняты национальные программы развития искусственного интеллекта, и у нас в том числе. В 6 странах приняты некие, назовём так, тоже программы использования искусственного интеллекта в военных целях. 

Саркис Григорян:

Это в каких?

Сергей Карелов:

Это США, Англия, Франция, Китай, Индия и Россия. Официально нет, хотя Генштаб про это опубликовал. Документа нет, но известно, что они тоже в этой шестёрке. Поэтому мы находимся сейчас в области real AI примерно там, в 40-м году, как с ядерной физикой. Тогда тоже в 40-м году четыре страны приняли эти программы, вот за 5 лет они всё это дело раскрутили. И мы находимся примерно здесь же. Вот сейчас в дело вступают уже не только интересы университетов, не только интересы бизнеса Google, Amazon и прочие, а вступают интересы государств, причём государств весьма и весьма серьёзных. Чтобы окончательно на примере провести, что же такое область real AI, я просто задом два вопроса. Как вы считаете, что больше повлияет на развитие в ближайшее время искусственного интеллекта в России, принятие новой программы вот этой государственной, либо если национализируют Яндекс, о чем свидетельствует полутороярдный обвал акций. Что больше повлияет, вот это или другое? Первая программа, она в области высоких материй, идеология, мораль, будущее. А это практический, практический интерес государства. Самая мощная AI компания в России - это Яндекс. И аналогичный вопрос, что важнее для развития AI на таком примере, очередной успех AlphaZero, которая обыграет ещё человека во что-нибудь, либо 28 компаний китайских под санкции, в т.ч. Sense Time, который MIT имеет очень серьёзные проекты. Что больше повлияет? И опять же, первое, очередной успех в очередном обыгрывание человечества, это исследователям интересно, медиа интересно показать. Реально вот от чего будет зависеть, вот что такое real AI, это тот AI, будущее которого определяется не в университетах, не в бизнесе, а в правительстве, практические конкретные интересы сильных мира сего. 

Саркис Григорян:

Сергей, здесь, я думаю, что и зрители уже поняли, о чём разговор. Но у меня есть такой вопрос. Если мы говорим о том, что на развитие атома сподвигло, тогда это была война, и государства объединились одной целью, учёные объединились одной целью, сделать оружие, чтобы не допустить распространения фашизма в мире. То есть это была борьба за мир, и цель была - мир и выживание. Если мы говорим о том, что сейчас происходит, то так навскидку никаких целей, кроме каких-то корыстно-денежных сейчас в голову не приходит. Потому что каких-то огромных таких вызовов общемировых на данный момент у нас нет, с которыми нужно вот так бороться. Исходя из этого, у меня вопрос, насколько этот ИИ реальный страшнее? Насколько он страшнее, чем то, что мы ожидаем, что может быть создано. 

Сергей Карелов:

Вы понимаете, на самом деле, интересы государств, они не меняются. И так же, как то, что происходило с ядерной физикой, там только в какой-то момент стало понятно, что из этого может получиться бомба. И тогда действительно появился серьёзный интерес у правительств. Но с любыми другими, даже совершенно не такими военными технологиями, на первый взгляд, возьмите радио, ведь это совсем не военная технология. Если вы только подумаете, как многим обязан Гитлер и его пропаганда, геббельсовская пропаганда, ежедневные выступления по 2 часа, десятки миллионов немцев слушали это, это радио сделало Гитлера. Использование, вы же смотрели наверняка эти фирмы про Алана Тьюринга, про знаменитую Энигму, система шифров, системы радиолокации и так далее. Государство заинтересовано в сохранении своего интереса, своего шкурного практического интереса. Если идёт война, то это будут военные интересы, если мир, то это будут торговые интересы, это будут финансовые интересы с тем, чтобы своё удержать, чужое отжать. То, что сейчас творится, например, между Китаем и США в области AI, никто уже не скрывает, что идёт новая гонка. Это не гонка вооружений, потому что она теперь касается не только вооружений. Вооружение становится, я чуть позже об этом скажу, если дойдёт речь, вооружение становится всего лишь одной из граней могущества, которое даёт искусственный интеллект правительству. Кто будет первый в области искусственного интеллекта? Путин сказал почти правильно, он сказал, что кто будет там, тот будет рулить миром. На самом деле, это действительно так. И это понимает Китай, это понимает США, и никто из них не собирается сдаваться. Либо это будет однополярный мир, либо это будет двуполярный мир, но сдаваться никто не будет. Что касается остальных таких странах, как Англия, Великобритания, Франция, да и Россия, в этом смысле трудно им соперничать, но никто не слил воду, все надеются. Знаете, как было у Спенсера, никто не поиграл, пока никто не выиграл. Поэтому с точки зрения real AI в сегодняшнем мире именно он начинает определять то, куда всегда будет двигаться. И в частности, вот такие тренды, как ИИ национализм, ИИ национализация, ИИ неоколониализм, это, по сути дела, три тренда, главных тренда, которые на уровне международных отношений, на уровне геополитики, на уровне интересов, насущных интересов ведущих стран мира сейчас будут доминировать. Вот эти три главных тренда. 

Саркис Григорян:

Сергей, сейчас мы об этих трендах обязательно поговорим. Но пока, чтобы было понятно неискушённому человеку, вот мы говорим о том, что кто будет первый в искусственном интеллекте, тот и будет владеть миром, вроде как всё понятно. Но у меня вопрос такой, давайте как-нибудь более подробно объясним, что значит быть первым и что такое быть первым в ИИ. Китай стал, например, через сколько-то. Что это, каким ИИ он должен обладать, чем, это раз. И второе, если мы говорим о том, это связанные вопросы, если мы говорим о том, что государства всегда блюдут свои интересы, действуют в своих интересах, ИИ это ещё один мощнейший инструмент, который сравнивают с атомом, то как далеко государство может зайти в защите своих интересов между друг другом, и где мы, люди будем там где-то, в каком мы месте будем относительно вот этой государственной машины. 

Сергей Карелов:

Давайте, я попробую это объяснить. Я предлагаю опять вернуться и вспомнить, что мы говорим о real AI, о реальном, практическом. Поэтому, отвечая на ваш вопрос, что означает первенство в этой области, мы должны вернуться к практическому пониманию первенства государств в мире. Мы можем говорить об экономическом первенстве, и говорят, и США в этом смысле сейчас первая страна мира, и Китай уже практически сравнялся с этой точки зрения. Мы можем говорить о научном превосходстве в исследованиях, в научно-исследовательских разработках. Мы можем говорить о первенстве в бизнесе, в экономике, которое тоже меряется деньгами. Но давайте честно признаемся, что человечество существует уже несколько тысяч лет. Соревнование и в экономике, и в науке, и во всём, оно существовало всегда. Но когда нужно было прозвучать звоночку и окончательно расставить точки над i, кто главный и кто первый, был всегда лишь один способ. Тот главный, тот первый, который может остальным, если что... Другого критерия человечество не выработало, на том устроена вся эволюция, и человечество живёт по тем же законам и сегодня. Таким образом речь идёт о том, что первым будет тот, кто будет первым в смысле обеспечения своего силового первенства, что его остальные все признают. Так как в своё время были две сверхдержавы, Советский Союз и США, и весь мир вынужден был признать. Да, у них больше всего ракет, у них больше всего военная мощь, увы, мы вынуждены это признать. Ровно то же самое будет и сейчас. То есть будут все остальные соревнования. Будут соревноваться финансовые, экономические, научные, так, сяк. Но когда прозвенит звонок, и когда нужно будет всем быстро сесть по своим стульям, то в первое кресло сядет тот, кто будет общепризнанно, что он сильнее. И здесь мне нужно маленькое лирическое отступление сделать и пояснить, какое отношение имеет искусственный интеллект к вопросу, кто будет в этом мире первый с точки зрения сверхдержавы. Понимаете, какая штука, сложившийся уже несколько десятков лет назад такой паритет нескольких стран, обладающих ядерным оружием, он основан всего лишь на одной аксиоме, всего лишь одна аксиома, какая простая математика здесь. Это концепция гарантированного взаимного уничтожения. Неважно, кто начнёт, неважно, как там всё сложится, но, ребята, ежели пойдёт всё плохо. 

Саркис Григорян:

Плохо будет всем. 

Сергей Карелов:

Плохо будет всем. И не просто плохо, будет полный каюк. Именно этой концепцией мир обязан тем, что мы живём. Потому что, если честно признать, то за последние 50 лет уже после окончания второй мировой войны мир несколько раз стоял просто на самом пороге, когда война должна была просто начаться вот-вот, я об этом писал в своём канале, почитайте, там про это очень интересно написано. А сейчас, последние несколько десятков лет, вот эта концепция взаимного гарантированного уничтожения, она всех сдерживает. Ну и хорошо бы. И дальше так жить. Но не получается. И не получается по одной причине, потому что появился AI. И представьте себе, значение AI все не в том, что он вдруг такой умный AI, что он начнёт перехватывать все ракеты, которые летят на вашу страну. Нельзя их все поймать чисто даже теоретически, а оставшиеся 5, которые упадут, сработает концепция взаимного гарантированного уничтожения. И не потому, что AI сможет стрельнуть быстрее. На самом деле, есть гораздо более простые способы ракету подвести к границе, что все и делают стороны, пытаясь притаранить ракеты как можно ближе к границам противника. AI способен на другое. Я об этом тоже в частности писал. Дело в том, что представьте себе, мы с вами две сверхдержавы, обладающие ядерным оружием, мы понимаем, что кто бы из нас не стрельнул, мы гарантированно будем уничтожены. Спрашивается в задачнике, а хотим ли мы всё равно выиграть?

Саркис Григорян:

Конечно хотим. 

Сергей Карелов:

Всё равно хотим. И тогда второй и последний вопрос, а существует ли хотя бы какой-то теоретический способ кому-то из нас выиграть в этой ситуации, если существует вот эта концепция взаимного гарантированного уничтожения. Такое есть, способ есть. Способ банальный, как блин, и он касается, казалось бы, не технологий, он касается людей. Знаете, в Штатах есть игра, в которую очень любит играть, раньше, по крайней мере, любила играть молодёжь. Два автомобиля разгоняются с большой скоростью, несутся друг другу в лоб, и кто первый отвернёт. У нас тоже иногда молодёжь увлекается. Какая психология у этой игры? Побеждает тот, кто не отвернёт. 

Саркис Григорян:

Кто не струсил. 

Сергей Карелов:

Что нужно, чтобы выиграть в этой игре? Чем нужно обладать? Нужно уметь просчитывать соперника. Что он сейчас думает, как он поведёт себя. Если вы правильно сможете это смоделировать, вы правильно сможете это предсказать, вы выиграете в игре, которая называется «Таран». 

Саркис Григорян:

Или сманипулировать до этого. 

Сергей Карелов:

Как угодно. Но ещё раз, в игре Таран выигрывает не тот, у кого машина круче, не тот, кто едет быстрее, выигрывает тот, кто лучше понимает психологию противника. А понять - это значит спрогнозировать, а спрогнозировать - это значит сманипулировать. Лёгкий поворот руля, лёгкое нажатие дополнительно на газ, ещё что-то, но произойдёт нечто, после чего ваш противник отвернёт. И это единственный способ выиграть в концепции взаимного гарантированного уничтожения. И это понимают военные. Военные, мало того, что понимают, вся разведка, она только на это и направлена, чтобы лучше понимать, что в голове у противника. Тот уже Клаузевиц говорил, что войны выигрываются не на поле боя, они выигрываются в головах соперников. Искусственный интеллект - это единственная технология, которая в этом смысле всё переворачивает в мире. Она позволяет, анализируя огромное количество, казалось бы, мало относящихся к вопросу данных, просеивая всё это, находить там какие-то простейшие психологические паттерны. Я не буду приводить примеры, как это делается в области маркетинга, как это делается в области рекламы. 

Саркис Григорян:

В политике, мы всё это слышали, я знаю. 

Сергей Карелов:

Но ведь то же самое касается и этой области. Искусственный интеллект в отличие от человека в состоянии, проанализировав всё это, спрогнозировать, что сейчас в голове у противника, и какое действие, будучи предпринятое, заставит противника проверить, что он проиграл. 

Саркис Григорян:

С какой вероятностью что-то там совершить.

Сергей Карелов:

Понимаете, в данном случае, что он от противника, и противник отвернёт. Вот в чём, на самом деле, заключается секрет искусственного интеллекта и его возможность все карты перемешать в этой доктрине взаимного гарантированного уничтожения. Об этом уже пишут открытым текстом. Я об этом недавно написал, в Штатах при правительстве организован государственный комитет по стратегическому использованию искусственного интеллекта, который возглавили Эрик Шмидт, бывший гугловец, знаменитый, и Ворк, бывший зам министра обороны. Тоже ему обязаны всем этим программам по искусственному интеллекту в американской армии. И сейчас они организовали национальный Brainstorming национальных идей, которые могут помочь Штатам обрести первенство, мировое первенство в области искусственного интеллекта. И первая публикация, которую этот комитет опубликовал, это была публикация, касающаяся того, что они называют когнитивные эффекты. Когнитивные эффекты войны. И тоже, о чём я вам сейчас рассказывал, там это открытым текстом написано, я просто пояснил сейчас на примере вполне понятном, каким же образом это первенство можно получить и что для этого нужно. 

Саркис Григорян:

Спасибо. Очень, на самом деле, вы предельно понятно объяснили. Я честно даже сказать, никогда не задумывался об этом с такой стороны. 

Сергей Карелов:

Но вы понимаете, что это правда, что оно так и есть. 

Саркис Григорян:

Это правда, это так и есть и, честно говоря, это немножко настораживает. Потому что получается, что сейчас поле битвы будущего - это люди, это социум и взаимоотношения между людьми. То есть получается, что новые места битвы, это не земли, не космос, не горы, не вода и не небо, это люди и головы людей. То есть войны будущего будут происходить у нас в мозгах, получается. 

Сергей Карелов:

Послушайте, вы абсолютно правы. Но задумайтесь, торговля всегда была тюками, штабелями, контейнерами, кораблями, грузовиками. А теперь торговля, она электронно. То же самое с финансами. Финансы всегда были банками, золотыми запасами, хранилищами, ценными бумагами. Сейчас всё опять в электронном пространстве. Что такое электронное пространство? В электронном пространстве находятся люди, которые там работают. И вопросы финансовые сейчас решаются не на биржах, где кричат брокеры, купить, продать и прочее. Они решаются в электронном пространстве в головах, на самом деле, людей, с помощью роботов, которые быстро ведут торговлю. Электронная торговля случается теперь в головах людей, которые и выбирают товар, и любят этот товар, и не любят, и отказываются от него, и покупают с помощью роботов, которые эти человеческие предпочтения реализуют. А почему с войной могло получиться иначе? Война теперь тоже будет выигрываться исключительно в головах людей. Это вовсе не значит, что не потребуется оружие. Всё будет это нужно. Нельзя выиграть в игре в Таран, о которой я рассказывал, не имея автомобиля. Понимаете, какая штука. Нельзя выиграть в игре Таран, если у вас какой-нибудь захудалый Запорожец, а на вас несётся такой Rolls Royce. Нет, у вас всё это должно быть. Но в конечном счёте выигрывает тот, кто сможет лучше прочитать противника, а не тот, у кого лучше машина. И поэтому вы абсолютно правы, это самое обладание первенством, оно произойдёт в головах людей, и это признают остальные после того, как дойдёт до какой-то точки, когда кто-то вынужден будет отвернуть. И все это увидят. И тогда станет ясно, кто первый. 

Саркис Григорян:

Давайте тогда продолжим эту тему, раз уж мы до этого вскользь упоминали и про национализм, и национализацию, и неоколонизацию, про вот эти три основных. 

Сергей Карелов:

Да, это важно пояснить. Дело в том, что искусственный интеллект, это некая стратегическая штука, обладая первенством в которой, я специально не называю это даже технологией. Это такое чудище, комплекс, тут тебе и технологии, и методики, всё, что угодно. В любом случае, тот, кто обладает первенством в этом, тот может предсказывать, тот может прогнозировать, может выиграть и даже в этом ядерном таране. Сегодня Китай и США, да и остальные тоже не прочь поучаствовать всё-таки в этой гонке. Пока никто не проиграл, как я сказал, как сказал Спенсер, пока никто не выиграл. А как выигрывать? Что нужно делать? Нужно идти срочно вкладываться в образование. Нужно. А поможет? Не факт. Срочно нужно бизнесу помогать. Поможет? Не факт. Нужно университеты объединить с госпредприятиями. Поможет? Не факт. В принципе, если мы будем исходить из понятия real AI, практический, то есть ответ? Есть ответ простой, как блин, когда мы начинаем говорить о простых, практических интересах. Первое, нужно, если вы обладаете потенциалом быть первым, таким, как Китай или таким, как США да и даже у нас. 

Саркис Григорян:

То есть, прошу прощения, вы не отбрасывайте нас, всё-таки у нас есть шанс. 

Сергей Карелов:

Шанс есть. Вы знаете, Россия сейчас выступает в роли некой тёмной лошадки, когда есть фавориты гонки, признанные фавориты. Но есть такая лошадка, у неё какое-то странное свойство есть, она раз в 3 года бегает, как сволочь и бежит быстрее всех. 

Саркис Григорян:

Как наша футбольная команда. 

Сергей Карелов:

Да. Шансов, что она снова побежит никаких нет. Но все знают, что водится за ней такая странная история. И только по этому поводу я Россию тоже не снимаю с этой гонки. Так вот, первое, что нужно сделать, это нужно максимально огородить поляну американцам. В чём справедливо американцы обвиняют китайцев. Всё прут, китайцы всё прут, всё, что запатентовано и не запатентовано, всё, что опубликовано и не опубликовано, всё, что разрабатывается и только собирается, всё прут. Надо огородить, чтобы не перли. Это называется национализм. Всё, что наше - наше, никому не дадим. Как развивались отношения между тем же Китаем и США на протяжении последних пяти лет, бурное развитие искусственного интеллекта, всё открыто, конференции, люди, туда-сюда. Что сейчас происходит? Что происходит сейчас? Открытым текстом говорят американцы: мы не дадим у себя переть, это наше. И компании мы вам не дадим здесь разворачиваться, мы вам не можем запретить, мы своим, заставим лицензии брать. И в найме персонала вводим ограничения, нечего, чтобы они у нас здесь поработали, поучились и все, уезжают с мозгами из наших лабораторий туда. Начинается тот самый ИИ национализм, когда все страны говорят: что моё, то моё, я никому не дам. И этим свойством китайцы, надо отдать им должное, они этот самый ИИ национализм, вообще китайцы думают, это единственная нация, которая по-прежнему думает стратегически. И то, о чем я сейчас говорю, и сам искусственный интеллект, и государственную они первые поняли. Не США. Это первые сделали в Китае, и они поняли, что надо это сделать государственным приоритетом номер один, надо ввести вот эти национальные интересы, огородиться. Всё должно быть наше. Мы будем на свой рынок пускать очень осмотрительно, мы будем разрешать или не разрешать, мы будем заставлять компании, которые приходят сюда, открывать свои коды, алгоритмы, иначе нельзя. Этот самый ИИ национализм представляет собой ни что иное, как выставление приоритетов собственной страны гласными. Если что-то в области искусственного интеллекта соответствует интересам нашей страны, хорошо, мы это разрешаем. Если мы сомневаемся, если это не соответствует, извините, это нельзя. Неважно, лицензия, запрет, как угодно, формально, неформально. И это называется ИИ национализм. Если вы посмотрите, то у китайцев этот национализм в области искусственного интеллекта, они всё тащат к себе. Почитайте Кайфу Ли. 

Саркис Григорян:

Я читал, как раз там очень интересно про это написано, и соревнование внутри у них. 

Сергей Карелов:

Более того, Кайфу Ли честно признаётся, даже если мы и перестанем переть что-либо из Штатов, уже достаточно, у нас есть всё, чтобы это сделать конфетку. Другое время пришло, сейчас нужны данные, сейчас нужны конкретные внедрения. Это называется национализм. Второе, ИИ национализация. Опять же, хороший пример, это ядерная программа, когда Вэнивар Буш, это не то-то Буш, который президент один и другой, а Вэнивар Буш, это человек, который командовал, по сути дела, этим ядерным проектом в Штатах с 41-го 45-й год. И он сделал когда то, о чем сейчас я и говорю. Он объединил вместе университеты, государственное финансирование и бизнес. Вот эти три, казалось бы, параллельно работающие могучие силы он впряг вместе, понимая, что отдельно университеты, отдельно бизнес и отдельно государство не смогут эту программу реально запустить в короткие сроки. И они сделали это. Они сделали это, и если вы посмотрите, у меня в канале все эти графики приводятся, график финансирования, он вот такой раз (резко вверх), и сделали. Дальше вы скажете: а были ещё программы, которые требовали вот такого. Пожалуйста, посмотрите на программу Аполлон, абсолютно то же самое. Абсолютно то же самое, объединяются ресурсы университетов, бизнеса и государства, и ставится единая стратегическая национальная цель. С Аполло было то же самое. И высадились на Луну. Теперь посмотрите, как китайцы определили эту программу у себя ещё четыре года назад. Так называемое фьюжен, слияние интересов университетов, бизнеса и государства. То есть китайцы, умные стратегические китайцы пошли тем путём, которой завещала Вэнивар Буш, просто сходу сказали, в AI все вместе, сливаем вместе, нет отдельно интересов государства, нет отдельно интересов бизнеса, нет отдельных интересов университета. Вы что там в вашей исследовательской лаборатории хотите сделать что-то? А это соответствует интересам Китая? Тогда можно. А если не соответствует, тогда нельзя. То же самое с бизнесом. Насколько нам это выгодно, вот он практический подход, насколько нам это выгодно, если это нам выгодно, национальным интересам. А в Китае ещё хлеще, там открытым текстом написано, что интересы КПК, коммунистической партии Китая, имеют приоритет над интересами государства китайского. А те в свою очередь имеют приоритет над интересами народа. А тот в свою очередь имеет приоритет над интересами бизнеса. Всё чётко расставлено. Всё чётко расставлено. И эта самая национализация, когда государство понимает, что нужно подгрести под себя все ресурсы, только тогда возможен вот этот скачок, они первые показали, китайцы, как это делается. Но сейчас это начинается в тех же что Штатах. И все эти наезды сейчас на Google, Facebook, которые происходят, в первую очередь, на Google, начиная с проекта Maven, скандала, который в прошлом году. Как написал тогда один из вояк, из генералов американских, мы покажем этим хиппи в Силиконовой долине, кто в нашей стране главный. Е ежели (я буквально стараюсь цитировать), и ежели эти хиппи не понимают, что такое национальный интерес, мы попросим ЦРУ, ФБР и Пентагон им объяснить. И это называется ИИ национализация. И потому, когда я приводил пример, например, с тем, что сейчас с Яндексом начинает происходить. Ведь как сейчас говорят, а что происходит. Происходит одно, стоит вопрос, кому будет принадлежать Яндекс. И ясно, что речь идёт о государственном курировании, вне зависимости, будет ли это государственная структура либо государственный олигарх какой-то, не важно. Это ростки того же. Потому что приняли программу. Приняли вот? Приняли, вот, пожалуйста, опубликовано, Путин подписал. А крупный игрок какой самый? Яндекс. И с точки зрения данных, вы же понимаете, все говорят, ещё есть Сбербанк. Слушайте, не смешите наши Искандеры, читайте Кайфу Ли, у кого данные у нас есть. Хотя есть и ещё у кого-то. Но Яндекс - это самый крупный игрок. И это означает, если Яндекс будет кошкой, которая гуляет сама по себе, как тогда обеспечить национальные интересы? Это представляет собой именно ИИ национализацию. Национализм, когда всё отгораживается, моё, моё, национализация, когда государство начинает сгребать все ресурсы вместе кучкой с тем, чтобы сделать прорыв. И, наконец, последнее, неоколониализм, речь идет, опять же, о данных. О данных, ведь если вы возьмёте весь объём генерируемых данных в мире и посмотрите, в чьих руках эти данные, то выяснится, что 85+ процентов находится в руках либо Америки, либо Китая. И дальше это будет присходит ровно таким же образом. Китай экспортирует свои технологии не столько тем, что он экспортирует технологии, сколько тем, что он доступ к данным хочет получить. Всюду, в Африке, в Южной Америке. Smart City Huawei уже в 50 странах внедрён, есть внедрения, вы можете себе представить. И эти данные подгребает, на самом деле, подгребает себе Китай. А то, что делают США, извините, мы все работаем в их приложениях и понимаем, кому принадлежат эти данные. Как описал Кайфу Ли, мир в итоге он превратится в 2 лагеря. Первый лагерь будет либо однополярным, либо двуполярным. И даже если он будет до какого-то времени двуполярным между Китаем и США, то в игре в Таран кто-то рано или поздно сморгнёт, отвернёт, и тогда мир станет однополярным. Но тогда он уже разделится не вертикально, а горизонтально. А именно, будет лидер, который будет сгребать все данные по миру и будут все остальные. Колонии, поставляющие данные, потому что в том новом мире это самое ценное, что будет. 

Саркис Григорян:

Сергей, у нас немножко времени осталось, буквально минуты полторы, очень быстро разговор закончился, очень интересно. Я очень надеюсь, что вы ещё придёте к нам в студию. Я бы хотел, чтобы вы напоследок сказали, может быть, что-то обнадёживающее для зрителей. Потому что мы сегодня такие серьёзные вопросы. И понимая всё это, как-то всё мрачно будущее как-то видится. Если в такой парадигме это всё будет развиваться. Может быть, что-то хорошее зрителям скажем. 

Сергей Карелов:

Вы знаете, какая штука. Хорошее, безусловно, сказать можно, и хорошее заключается в том, что будущее не предопределено. Кто бы что бы ни говорил, и какие бы не были. Да, есть разные сценарии, большинство из них выглядит опасно и обескураживающе, но будущее не предопределено. Об этом талдычат сейчас все, об этом Макс Тегмарк с его ассоциацией полезного AI. Об этом пишет Харари, об этом очень много авторов. Только что вышла замечательная книга Стюарта Рассела, 8 октября она вышла Compatible AI. Они все пишут про одно, что только сейчас стало понятно, какие расклады могут быть. И я в частности об этих раскладах говорил. Только сейчас стало понятно, что есть то, о чем пишут СМИ, есть то, о чем говорят исследователи, а есть реальные вещи, так, как оно реально складывается. Есть вот эти страшные сценарии, но только их нужно понимать и, понимая их, нужно реально предпринимать действия, практические действия, с тем, чтобы минимизировать вероятность наиболее плохих сценариев. Для этого можно кое-что сделать и главное, это, на самом деле, международное сотрудничество, которое является ключом для решения этой проблемы. Нельзя эти проблемы решить в одиночку. И вот этот самый ИИ национализм, который огораживает каждую страну и замыкает в своих собственных интересах, это самое плохое, что можно сделать в современном мире. Самое лучшее, что можно сделать - это странам садиться вместе, собираться вместе и договариваться, и решать, что вместе сделать для того, чтобы не материализовались эти сценарии. Это как с глобальным потеплением, то же самое. Есть оно, нет его. Или с экологической катастрофой, которая точно есть и спорить не надо. В одиночку страны не могут решить эти глобальные задачи. AI - это одна из трёх самых серьёзных глобальных задач наряду с потеплением и ядерной войной. И как я только что объяснял, что с ядерной войной это связано просто напрямую, это теперь и одна задача, их уже не три, а две стало. Но решить их можно только путём глобальной кооперации. Будет кооперация глобальная, их можно решить. Нет - могут материализоваться самые страшные сценарии. 

Саркис Григорян:

Будем надеяться, что разум всё-таки победит и дружба, будет глобальная кооперация. Спасибо большое за то, что пришли, спасибо большое за очень интересную беседу. Надеюсь, ещё увидеться. 

Сергей Карелов:

Спасибо.