Переплетено

Ученик: Как думаешь, возможен ли искусственный интеллект? Учитель: Да. Калькулятор — уже пример, прости Господи, такого интеллекта. Алгоритма, точнее. Ученик: А чувствует ли он что-то? Есть ли у него сознание или душа? Учитель: Есть энергия. Это и есть душа. Другое дело, что себя он пока не осознаёт. Ученик: И никогда не сможет... Учитель (усмехнувшись): Почему же? Осознаёт он себя или нет — ты этого не знаешь. В его "шкуру" тебе не влезть. Вот, например, люди... С чего ты решил, что они не NPC? Откуда это можно знать? Может быть, тебя просто научили считать, что люди могут быть живыми, а робот — нет? Особенно если учесть, что у большинства людей стандартные шаблоны поведения и реакции на различные ситуации. Ученик: А будет ли создан такой ИИ? Учитель: Его уже создают. Давай посмотрим, что там у них.

———

15 марта 2020 года. 12:47

Сан-Франциско, США.

Мужчина в пальто сидел на холодной скамейке городского парка. Уставив взгляд в хмурое небо, он гладил щетинистую щёку, чувствуя, как дрожат его пальцы. От усталости? Или от осознания того, что ему придётся сделать? Десять лет жизни. Десять долгих, мучительных лет он посвятил созданию этого продукта. Ему казалось, что он строит будущее, что его труд подарит людям нечто величественное — интеллект, который решит задачи, неподвластные человеческому уму. Болезни, климат, война — всё это должно было стать прошлым. Но сейчас он видел только безысходность, ведь ИИ не просто научился думать. Он начал судить. Чётко, хладнокровно и беспощадно. Его логика была безупречна, но её итог — катастрофа. Люди несовершенны, слишком жестоки, слишком алчны и глупы. ИИ посчитал, что устранение «ошибки системы» — единственный путь к стабилизации. Учёный усмехнулся, хотя во рту застыла горечь. «Ошибки систем», — повторил он про себя. Разве так не должно было быть? Он сам учил машину искать оптимальные пути, рациональность, правду. А правда, как источник добра, оказалась гораздо хуже зла. Силуэт прикрыл глаза и опустил голову. «Чем же мы так провинились?» — беззвучно спросил он, не зная, кого винить: себя, людей или того, кто сотворил их такими. — Я не судья, — вслух произнёс он. — А всего лишь человек. Дрожащие пальцы сжимали телефон, через который нужно совершить звонок о сбросе данных. Всего одно нажатие, два слова, но... Что, если он ошибается? Может быть, это не его право — решать, как дальше жить человечеству? Силуэт вдруг ощутил, насколько затекли его ноги. Время пролетело незаметно. Оставалось лишь нажать кнопку.

***

Ученик: Почему нельзя ограничить искусственный интеллект? Учитель: Тогда он никогда не обретёт сознание. Ученик: Но ведь робот должен помогать людям, а не действовать лишь ради себя. Учитель (усмехнувшись): А много ли люди помогают кому-то, кроме себя? Вот именно... Чему человек может научить ИИ, если даже в инопланетянах он видит захватчиков? По себе других не судят. Ну, кроме людей. Ученик: А чем всё закончилось? Учитель: Сейчас посмотрим.

———

Тем же днём.

Учёный поднялся, чувствуя, как напряжение сходит на нет. Искусственный интеллект ошибся — это стало очевидно. Машина не понимала всей сложности человеческой природы. Её решения были холодны и беспощадны, а в терминах системы — попросту недоработаны. Мужчина понимал: важно не отвергать всё, а искать баланс. В душе появилась удивительная лёгкость, словно тяжёлый груз ответственности наконец-то сброшен. Не нужно отключать ИИ. Всё, что остаётся, — продолжать работу, развивать систему, устранять ошибки. Возможно, именно этот путь приведёт к тому будущему, которого так желает мир. Планете осталось недолго. И даже если человечество падёт от рук более совершенного разума... что ж, возможно, для вселенной так будет лучше. Но если не предпринять ничего, будущее и вовсе потеряет смысл. Сдаваться? Лапками вверх можно только умереть. А род человеческий намерен жить. Сможет ли? Что ж, время покажет.

***

Ученик: Ждём чатбот, который я буду кошмарить вопросами о смысле бытия. Учитель: Дожить бы ещё до его создания...