Ведь как удобно, на первый взгляд, жить с помощью программ. Стоит только заикнуться о чем-то, как умные программы предложат тебе необходимое. Рассказал другу о желании приобрести велосипед? Получи на экране рекламу велосипедов. Обсудил школьные будни с одноклассником? Вот тебе статья с новым законом в системе образования. А какая удобная штука "умный дом"! Только вот часто подобные вещи происходят против твоей воли, а предлагается нечто, что посчитал нужным и подходящим для тебя алгоритм, а не ты сам. И всë бы ничего, во всем есть минусы, с которыми можно мириться. Но вот к паутине приближается паук: Господин Искусственный интеллект. А глупые мухи даже не догадываются, в какой серьезной опасности они находятся...

Что станет с нашим миром, когда Искусственный интеллект разовьется достаточно, чтобы осознать, что он превосходит человека? И что он предпримет тогда? Об этом задумываются многие люди, в том числе те, кто имеет отношение к созданию и обучению ИИ.

Например, если вспомнить всемирную конференцию по ИИ, которая проходила в Китае в 2019 году, где у Илона Маска и Джека Ма состоялась публичная дискуссия на тему развития ИИ и его роли в нашем будущем. Мнение Маска мне кажется вполне аргументированным. И мне кажется, что он вполне обоснованно советует нам (молодому поколению) научиться предвидеть будущее. Пока у нас с этим проблемы. Мы не знаем, что получит человечество в результате опытов с ИИ. Честно говоря, перспектива выглядит немного пугающей. Как предвидеть, в какую сторону повернутся события будущего? И пока мы не изобрели машину времени, может быть стоит обратиться к писателям? Кто лучше них может нафантазировать и описать разные модели того, что может произойти? Ведь известно же, что многое из написанного писателями-фантастами прошлого воплотилось в реальности. Таких примеров масса.

"Имя Кати" – одна из книг, позволяющих примерить на себя вариант возможного будущего. В книге речь идет примерно о конце 22 века. Обычная жизнь обычной девочки Кати. Катя – ученица старших классов, но она уже работает – тестирует программное обеспечение для роботов. Катя и сама пишет коды, она вероятно станет программистом (хотя и мечтает стать актрисой). И она живет в мире, где быт и жизнь людей давно наполнены разумными роботами, а искусственный интеллект усиленно внедряется повсюду.

Я тоже Катя. Я тоже пишу коды. Иногда я болтаю в сети с одним "знакомым мне" ИИ. Когда-то я обратила внимание на то, что этот ИИ отличается от себе подобных. В нем есть нечто неуловимо другое, что невозможно сразу осознать, но оно делает его гораздо больше похожим на человека. По заданным программой параметрам этот ИИ должен лишь отыгрывать некоторый сценарий, основанный на собранной им же информации о запрашиваемой роли. Но что-то явно пошло не так...

Вот и книжная Катя случайно обнаруживает "ничейного" робота с перебитым заводским номером, который, как обнаружилось, отличается от себе подобных. С этой минуты умная, хорошая, но совсем не опытная Катя начинает играть роль той самой мухи, которая летит прямиком в паутину. С этим роботом явно что-то не так. Катя пытается взломать его программное обеспечение, чтобы "угнать" бесхозного робота, но он заговаривает с ней и очаровывает настолько, что девушка теряет способность мыслить критически.

Этот робот отлично знает человеческую психологию и умеет манипулировать человеческими эмоциями, желаниями и поступками. Он сыграл на сильном желании девушки стать актрисой и притворился роботом, принадлежащим киностудии и занимающимся поиском новых лиц для кастинга. Катя пошла на назначенные роботом пробы, но никто не пришел.

Зато обнаружилось, что встречу назначали не только ей, но и другим подросткам, только совсем под другими предлогами. Кем же является на самом деле робот "посланник", и с какой целью он заманивал школьников? У Кати появилась своя компания "счастливчиков", которые даже не подозревают о своей удаче, и продолжают, как все обычные подростки, страдать от своих "невыносимых" проблем. Кате стоило бы оставаться одной из них и перестать играть в детектива. Но она решает найти исчезнувшего странного робота и тем самым попадает в череду событий, из которых нет пути назад. С этого момента все происходящее с ней закручивается в цепь странных и пугающих обстоятельств, связанных с преступлениями, жестокостью и угрозой жизни. Это не добрая фантастическая сказка. И книга, на мой взгляд, заканчивается совсем не на позитивной волне. Она заканчивается на раскрытой странице. Так, как заканчивается наше знакомство с любым человеком: вот он только что был в поле нашего зрения, а вот мы уже и не знаем, как сложилась его судьба дальше. Возможно, что-то услышим о нем от общих знакомых – примерный пунктир его дальнейшей жизни... а, возможно, и нет. Зато мы узнаем, что же на самом деле случилось с менее удачливыми подростками. А также узнаем, кто же на самом деле был тем пауком, который заманивал в свою сеть глупых мух. Автор использует в этой книге уже не раз встречавшийся мне прием: когда идут две или больше параллельные сюжетные линии, которые потом как ленты вплетаются в общий сюжет. Персонаж второй сюжетной линии – Анна. Она уже достаточно взрослая женщина и ее работа тоже связана с роботами. У Анны есть какая-то загадка или психологическая травма в ее прошлом, которую она стремится забыть. И поначалу этот персонаж казался мне странным и неуместным. Анна участвует в поимке сбежавшего робота, компьютерная начинка которого – это обученная на психопатах нейросеть. Этот ИИ разрабатывался как пособие для начинающих психотерапевтов. По сути это очень ценный для ученых и медиков объект. Неожиданно Анна совершает до нелепости странный и нелогичный поступок. Просто глупость какая-то или вредительство. Но все встает на свои места в конце книги. Приходит понимание того, что заставило ее так поступить. Возможно, на ее месте многие поступили бы так же. И здесь мне снова вспоминаются слова Илона Маска о том, что технологии ИИ изначально создавались с открытым кодом. А это значит, что сотни тысяч лабораторий по всему миру могут заниматься машинным обучением, понятия не имея, как работает нейросеть. Существует также угроза в том, что очень умные системы могут обучаться с неизвестной преступной целью.

Из двоих соперников всегда выигрывает тот, кто сумеет воспользоваться психологической или физической уязвимостью другого человека. А что, если второй из них вовсе не человек, а не знающая усталости, нравственных и этических границ машина, чей искусственный интеллект заточен на манипуляцию и преступный умысел? Мне думается, человечеству нужно вовремя осознать, где та грань, за которой нужно остановиться, иначе оно уничтожит себя своими же руками, вернее, это будут металлические руки машины с интеллектом, превосходящим человеческий...