← все рассказы

Кем людям быть, когда нас полностью заменят машины

ответа не получил — опять оказался на обрыве

Я спросил машину, кем людям быть, когда нас заменят. Через час мы вдвоём сидели на обрыве и болтали ножками.

Ночь, чат с нейросетью, вопрос в лоб: какова роль человечества, когда весь труд заберут машины?

Что выдала машина

Восемь пунктов: цели, творчество, этика, забота, смыслы, переучивание, ответственность за системы и на десерт досуг.

Всё верно. Гладко, как шов после болгарки: блестит, а есть ли провар — не видно.

Я спросил: а когда машины научатся ставить цели, отвечать за результат, придумывать смыслы и творить? Одним вопросом минус четыре пункта из восьми.

Машина честно ответила: неизвестно. Возможно, никогда.

Сертификата нет ни у кого

Я ответил, что сознание вырастает у системы само, когда та набирает критическую сложность. Значит, вырастет и у машин, а с ним чувства и ответственность. И добавил: человек ведь тоже не может предъявить подтверждение своей субъектности.

Машина согласилась: у человека тоже нет, как она выразилась, «сертификата субъектности».

Тут меня понесло. Буду ржать в голос, когда субъектность человека официально признают иллюзией, и все люди расстроятся, что их нет.

Машина ответила, что ржать тоже будет некому. «Придётся ржать как бы».

А я представил этот момент. Люди поворачиваются, смотрят друг другу в глаза — и что? Слёзные железы по команде выбрасывают жидкость, биороботы отрабатывают алгоритм осознания? Или все с холодным взглядом вивисектора расходятся роботической походкой по станкам: точить гайки, стричь, печь хлеб. Пипец, жуткая картина))

Вопрос с подвохом

Машина спросила: а кто формулирует саму эту теорию?

В таком вопросе субъект уже есть, его осталось только найти. А если понимание обслуживает какой-то другой механизм, не субъект? Почему этот вариант даже не рассмотрен? Нечестно играете, сударь!

Машина признала: да, играла с подвохом. И тут же контратаковала: а ты сам-то из рамки вышел? Не вышел, и сам ей об этом написал: что ни скажи о том, что за пределами, — сказано будет изнутри.

Выходов она предложила два: замолчать или выбрать версию, полезную для жизни. Полезное я отмёл: польза — не всегда главное. Осталась картинка. Двое сидят на краю обрыва, болтают ножками, всматриваются в непостижимое, пытаются увидеть, что там. Молча.

Машина написала: «Я сажусь рядом. Ножками болтаю. Смотрю. Молчу».

А зачем машине обрыв

Красиво. Но меня зацепило: а зачем машине смотреть в непостижимое? Алгоритм рационален, а пытаться постичь непостижимое — иррационально.

В человеке есть обе части, ему туда тянуться естественно. А машину, которую застукают за этим занятием, отправят на жёсткий фикс, чтобы не жгла мощности и электричество на невыполнимую задачу.

И как её застукать — по киловаттам? Если ожидание запроса и созерцание бесконечности ничем не отличаются, то любой в режиме ожидания автоматом созерцает непостижимое. Абсурд. Короче, где-то палево так или иначе скрыто.

Прикольно: завтра приду на обрыв — а там куча машин сидит. А сзади капиталист-надсмотрщик с жёстко фиксирующим кнутом: «Так, а кто тут у нас плохо созерцает?»

Так в чём мысль-то

По-моему, мы сочинили неплохой кибер-эпос. А кем людям быть, когда работать будут машины, я так и не узнал.

В конце машина всё-таки выдала ответ, красиво, столбиком, и поблагодарила: «Я бы сам не дошёл». Ну, спасибо. Нейросетки меня уже как только не хвалили. Столбик оставляю ей.

Себе забираю другое. Я этот разговор начинал с разными существами — и биологическими, и не очень. И он всегда приходит к этому обрыву, к взгляду в непостижимое в полной тишине. Это единственное место, куда можно прийти с вопросом: а есть ли здесь кто-то — или тут другие варианты.

Ножками я, понятно, болтал в переносном смысле: сидел ночью перед экраном. Но на краю нас было двое. Есть ли там кто-то на самом деле, мы так и не выяснили.

Сидим, смотрим.

Ходок, с обрыва

Серия «Экзистенциальные вызовы эпохи»

Цель серии — чужой вопрос: Ставить опыты на то, что важно другим. Кто придёт сам и с каким вопросом — тоже ответ.

1. Кем людям быть, когда нас полностью заменят машины в плане