"Когда мы с Гилем основали компанию Check Point, то были убеждены, что интернет объединит человечество, позволит каждому индивидууму выразить себя и быть услышанным. Это было высшее проявление свободы слова и демократии. Сегодня я понимаю, что мы, возможно, неплохо разбирались в компьютерах, но, положа руку на сердце, совсем не разбирались в людях", - рассказал экономическому изданию "Калькалист" Шломо Крамер, один из отцов-основателей израильского хайтека.
"Оказалось, что когда человек получает в руки мощный инструмент, меняющий правила игры, это зачастую ведет не к прогрессу, а к катастрофе. Check Point был важным элементом построения всемирной паутины и подключения людей к интернету, мы внесли в это большую лепту. Нам и в голову не приходило, что люди будут использовать интернет и соцсети, возникшие на его основе, как оружие, как инструмент массового насилия, концентрации власти и ведения войны.
Оказывается, таков Homo sapiens, такова его природа. Не случайно именно этот вид стал доминирующим на Земле, хотя у него нет особых физических качеств. Он не огромен, как слон, не силен, как лев, но он очень агрессивен и одновременно умен, поэтому умеет использовать агрессию необычным образом. С годами я стал сожалеть о том, что дело всей нашей жизни - моей, Гиля и многих других людей - вылилось в разрушение того, во что мы верили, - демократии и либерализма".
Это неожиданное признание, звучащее почти как исповедь, принадлежит Шломо Крамеру, а Гиль - это Гиль Швед, его партнер в компании Check Point, которую они создали более 30 лет назад вместе с Мариусом Нахтом. Можно смело утверждать, что Check Point фактически изобрела сферу кибербезопасности, разъясняя различным институтам (банкам и страховым компаниям), что работу сотрудников и обслуживание клиентов в интернете следует максимально оборонять от злоумышленников с помощью Firewall. Check Point стала генератором множества гениальных идей в израильском и мировом хайтеке и заработала в сфере кибербезопасности миллиарды долларов. Сам Крамер не работает в Check Point уже 20 лет, за это время он успел основать еще две успешные компании - Imperva и Cato Networks.
Приближаясь к своему 60-летию, Шломо Крамер все чаще размышляет о будущем индустрии высоких технологий, государства Израиль и всего человечества. Он по-прежнему управляет Cato Networks, компанией с 1500 сотрудниками, которая недавно совершила широко обсуждаемое поглощение израильского стартапа в области искусственного интеллекта Aim Security, заплатив за него 350 млн долларов. При этом он посвящает большую часть свободного времени анализу окружающей реальности, и выводы, к которым он приходит, не вселяют в него оптимизм, столь необходимый для индустрии стартапов - суть которой в стремлении двигаться вперед, несмотря ни на что.
С другой стороны, в этой гонке Крамер вот уже скоро 45 лет, с тех пор как начал работать на своем первом компьютере в маленькой комнате в Рамат-Гане, где он вырос. И все-таки в последнее время будущее мира и его страны тревожит его больше, чем когда бы то ни было. Это в немалой степени связано с 7 октября и ситуацией в Израиле. Но больше всего Крамера пугает нечто иное, достаточно неожиданное для человека, посвятившего свою жизнь кибер-разработкам. Речь идет об искусственом интеллекте (ИИ).
► На пороге катастрофы
Крамер не боится, что его воспримут как человека, страдающего от параноидальной тревоги, связанной с технологическим прогрессом. "Самая большая проблема человечества сегодня - искусственный интеллект. Мы стоим на пороге беспрецедентной катастрофы", - считает он.
"Искусственный интеллект разрушит человечество как либеральное общество", - утверждает Крамер и подробно описывает апокалиптический сценарий неизбежного будущего.
"Людям жизненно необходимо верить в последовательность событий, важнейшее свойство человека - способность убеждать себя в том, что дальше будут происходить такие-то и такие-то вещи. На самом деле людям не так важно знать, что правда, а что ложь, им нужна лишь стройная последовательность. Раньше это достигалось через веру, через церковь, которая предлагала им систему убеждений. Это была эпоха, насыщенная войнами, потому что, когда сталкивались две церкви, отношения между ними были очень жесткими.
После научной революции все изменилось: ложь можно было опровергнуть научным экспериментом или путем демократического диалога и таким образом приблизиться к истине. Это прекрасно работало и привело к промышленной революции, а затем и к информационной революции. Пока мы не достигли нового скачка - эпохи соцсетей в сочетании с ИИ. И с этого момента мы фактически начали движение в обратном направлении, потому что соцсети вместе с нейросетями сделали неразличимой правду от лжи, стало также невозможно сохранять какую-либо последовательность воззрений в отношении того, что будет дальше. С помощью ИИ сегодня можно создать все, что угодно".
Больше всего Крамера тревожит то, что демократические либеральные страны будут разрушены или утратят свою нынешнюю форму под воздействием ИИ, тогда как тоталитарные государства, вроде Китая или России, будут процветать. "Демократические страны либо исчезнут, взорвавшись изнутри, либо трансформируются в тоталитарные государства, - предупреждает он. - Мы уже наблюдаем внутренний распад стран, которые все еще пытаются сохранить свободу слова, - прежде всего США.
Между тем у стран, у которых выстроен единый непререкаемый нарратив, есть колоссальное асимметричное преимущество, поэтому они победят. Этот процесс уже в разгаре, но крах произойдет, когда масло искусственного интеллекта подольют в огонь социальных сетей. Технологические гиганты - Meta, X (бывший твиттер) и компании по развитию искусственного интеллекта - действуют безответственно, думая исключительно о прибыли, не понимая, что то, что они создали, оказывает на цивилизацию разрушительное воздействие".
- Но это проблема человеческой природы, технологии не могут ее решить. Мы никогда не видели технологическую компанию, которая бы ограничивала свое развитие и добровольно замедляла прогресс.
- Да, это угроза мировому порядку, и об этом нужно говорить всюду и везде. Скатывание в бездну могут остановить лишь государства. Демократические страны будут вынуждены ограничивать свободу слова, чтобы ее спасти. Необходимо жесточайшим образом регулировать социальные платформы, требовать указывать источник каждой публикации.
Все, что идентифицируется как бот, должно быть удалено из сети, все, кто идентифицирован как участвующий в некоей целенаправленной кампании, должны быть удалены, каждый, кто был уличен во лжи несколько раз, должен потерять доступ к социальным платформам. Хотя боюсь, что запущенный процесс саморазрушения уже необратим.
- Если бы в начале 90-х вы были значительно старше, вы смогли бы заметить признаки той беды, о которой вы говорите сегодня в связи с искусственным интеллектом?
- Проблема не интернет или ИИ, а человеческая природа. Технологии нужно развивать, никто не в состоянии остановить прогресс. Однако необходимо ставить вокруг этих технологий своего рода заградительные барьеры. Технологии развиваются слишком быстро по сравнению с системой права и регулирования. Приведу исторический пример: изобретение железных дорог. Это замечательно, но они привели к Первой мировой войне, потому что можно было легко перевозить сотни тысяч солдат. Или удобрения, созданные для увеличения урожая и сокращения голода, которые также используются и для производства химического оружия. Безответственное использование ИИ также приведет нас к колоссальной катастрофе.
- А что насчет Израиля?
- Израиль - пример глубокого внутреннего раскола, и это при том, что Россия или Китай не занимаются нами вплотную, как США. У нас есть свой фактор разрушения - внутри системы управления государством.
В том, что Крамер подвергает острой критике происходящее в Израиле, нет ничего удивительного. Его можно назвать не только одним из основателей израильского хайтека, но и инициатором протеста хайтекистов против нынешнего правительства. Сразу же после выборов в ноябре 2022 года, еще до того как министр юстиции Ярив Левин представил план судебного переворота, Крамер начал предостерегать общество от последствий формирования право-религиозной коалиции Нетаниягу. Он впервые вышел из привычной зоны комфорта индустрии высоких технологий и стал одним из самых громких критиков израильского правительства.
В последние месяцы он подвержен апокалиптическим настроениям. "Государство Израиль находится в самой опасной исторической точке своего существования, - утверждает он. - Мы стоим на перекрестке, и перед нами лишь два пути: один ведет к пропасти, другой - к продолжению процветания. Если как нация мы не выберем правильный путь (причем сделать это нужно максимально быстро), мы в лучшем случае станем еврейским меньшинством в арабском государстве либо снова окажемся в изгнании, а в худшем - погибнем в большом кровопролитии. На пути к этой пропасти мы столкнемся с автократией, репрессиями, моральным крахом и глобальным бойкотом. Второй путь ведет нас к сильному либеральному, демократическому обществу. У израильского хайтека ключевая роль в этом выборе".
Подробности на иврите читайте здесь
Перевод: Гай Франкович