1i7 (1i7) wrote,
1i7
1i7

Categories:

Спонтанный рефлекс на короткое замыкание

Урм не стал слушать. Он вышел в фойе и там остановился как вкопанный, усиленно двигая черными рогами локаторов. На противоположной стене висело что-то большое, блестящее и холодное. Оно казалось серым непроницаемым квадратом в инфрасвете и сверкало и серебрилось в обыкновенных лучах, но не это смутило Урма. В странном квадрате стояло черное чудовище с шевелящимися рогами на голове, круглой, как школьный глобус, и Урм не мог понять, где оно. Визуальный дальномер мгновенно сообщил ему, что до незнакомого предмета двенадцать метров восемь сантиметров, но локатор опроверг это сообщение. «Никакого предмета нет. Есть гладкая, почти вертикальная поверхность на расстоянии… шесть метров четыре сантиметра». Урму до сих пор никогда не приходилось видеть ничего подобного, и никогда еще локатор и зрительные рецепторы не давали ему столь противоречивых показаний. В его организме с самого начала была заложена потребность делать ясным и понятным все, с чем приходится соприкасаться, и он решительно пошел вперед, мимоходом отмечая и запоминая выяснившуюся закономерность: «Расстояние по зрительному дальномеру равно расстоянию по локатору, умноженному на два»… Он вошел в зеркало. Стекло разлетелось звенящим дождем осколков, и Урм, упершись в стену, остановился. Очевидно, делать здесь было больше нечего. Урм поцарапал штукатурку, понюхал, повернулся и, не обращая внимание на белого, как бумага, дежурного милиционера, повисшего на сигнале тревоги, хрустя по битому стеклу, шагнул к выходной двери. Снег и метель обступили его.
[...]
Пискунов присел рядом с ним на корточки. Что же все-таки произошло? Он знал Урма, как никто в институте. Через его руки прошел каждый винтик, каждый электрод, каждая линза этого великолепного механизма. Он полагал, что может рассчитать и предсказать каждое его движение в любых обстоятельствах. И вот пожалуйста. Урм «самовольно» вышел из своего подвала и гуляет по электростанции. Почему?
Поведение Урма определяется его «мозгом», необычайно сложным и тонким аппаратом из германиево-платиновой пены и феррита. Если у обычной цифровой машины десятки тысяч триггеров – элементарных органов, получающих, хранящих и отдающих сигналы, то в «мозгу» Урма задействовано уже около восемнадцати миллионов логических ячеек. На них запрограммированы реакции на множество положений, на различные варианты изменения обстоятельств, предусмотрено выполнение огромного числа разнообразных операций. Что могло повлиять на «мозг», на программу? Излучение атомного двигателя? Нет, двигатель окружен мощной защитой из циркония, гадолиния и бористой стали. Практически через эту защиту не может прорваться ни один нейтрон, ни один гамма-квант. Тогда рецепторы? Нет, рецепторы еще сегодня вечером были в идеальном порядке. Значит, все дело в самом «мозге». Программа. Сложная новая программа. Пискунов сам руководил программированием и… Программирование… Так вот в чем дело!
[...]
По-видимому, тревога началась. Теперь уже не один, а три прожекторных луча шарили вдоль стены института. Было видно, как снежные смерчи танцуют в голубом свете. Сквозь шум и вой ветра доносились крики, кто-то сердито ругался. Наконец взревели моторы, послышался лязг гусениц. Гигантские тракторы-бульдозеры выходили из автопарка.
[...]
Пискунов шагнул вперед и положил руку в перчатке на грудь Урма. Его пальцы торопливо поползли по броне, нащупывая главное – замыкатель, соединяющий счетно-анализаторскую часть мозга Урма с системой силы и движения. И тут случилось неожиданное – неожиданное для всех, кроме Пискунова, боявшегося этого больше всего. По-видимому, в памяти Урма сохранились ассоциации, связывающие этот жест Хозяина с внезапно возникающей неспособностью двигаться. Едва пальцы Пискунова коснулись ключа, как Урм резко повернулся. Бронированная рука стремительно прошла над головой успевшего пригнуться Пискунова, и Урм, не торопясь, двинулся обратно по шоссе. Николай Петрович первым пришел в себя.
[...]
Тем временем бульдозеры развернулись в полукольцо и стали стягиваться вокруг Урма, неторопливо шлепавшего по шоссе. Один из бульдозеров выполз на шоссе впереди него, кормой к воротам, другой нагонял его сзади, остальные три приближались с боков – два слева, один справа. Конечно, Урм давно заметил, что его окружают, но, вероятно, не придал этому значения. Он продолжал двигаться по шоссе, пока не уперся грудью в бульдозер. Он надавил, трактор чуть качнулся, водитель с напряженным лицом схватился за рычаги. Урм отошел и ударил с разбегу. Железо лязгнуло о железо, и было видно, как снежную мглу под прямым лучом фары прорезали яркие искры. В то же мгновение щит заднего бульдозера уперся в спину Урма. Урм застыл неподвижно, только голова его медленно поворачивалась вокруг оси, точно школьный глобус. Справа и слева подошли еще два бульдозера и плотно закрыли последние пути к отступлению. Урм оказался в плену.
– Товарищи инженеры! Товарищ Пискунов! Что дальше делать? – закричал водитель первой машины.
– Товарищ Пискунов вышел. Что ему передать? – сказал Урм.
Он размахнулся и ударил по щиту. Затем еще и еще. Он бил равномерно, словно боксер на тренировке, слегка отклоняясь при каждом ударе, и из-под его палицеобразных рук с лязгом сыпались снопы искр.
[...]
– Видишь ли, Урм конструировался по заказу Управления межпланетных сообщений. Тем он и отличается от других самых сложных кибернетических машин, что предназначен для работы в условиях, которые не в состоянии предсказать точно даже самый гениальный программист. Например, на Венере. Кто знает, каковы там условия? Может быть, она покрыта океанами. А может быть, пустынями. Или джунглями. Послать туда людей пока невозможно – слишком опасно. Будут посланы Урмы, десятки Урмов. Но как их программировать? Все горе в том, что при нынешнем уровне кибернетики нельзя еще научить машину «мыслить» абстрактно…
– То есть?
– Для машины нет собаки вообще. Для нее есть только та, другая, третья собака. Встретив четвертую, не похожую на первых трех, машина уже не будет знать, что делать. Грубо говоря, если Урм запрограммирован на определенную реакцию только в отношении дворняги, он не сможет реагировать так же в отношении мопса. Простой пример, конечно, но полагаю, ты меня понимаешь. В этом и есть одно из основных отличий самой умной машины от самого глупого человека – неспособность оперировать абстрактными категориями. Так вот, Пискунов попытался возместить этот недостаток путем создания самопрограммирующейся машины. «Мозгу» Урма была задана рефлекторная цепь, сущность которой сводится к тому, чтобы заполнять самостоятельно пустующие ячейки памяти. Пискунов рассчитывал, что, «набравшись впечатлений», Урм будет способен без помощи человека подбирать наиболее выгодные линии поведения для каждого нового случая. Это самая совершенная в мире модель сознания. Но результат получился неожиданный. То есть теоретически Пискунов допускал такое явление, однако практически… Короче говоря, новая рефлекторная дуга породила десятки вторичных, не предусмотренных программистами рефлексов. Пискунов окрестил их спонтанными рефлексами. С их появлением Урм перестал действовать по своей основной программе и начал «вести себя».


А. и Б. Стругацкие, «Спонтанный рефлекс», 1958
https://www.e-reading.club/bookreader.php/55068/Strugackiii_-_Spontannyii_refleks.html



Ну вы понели
Tags: машинное обучение, образование, роботы
Subscribe

Posts from This Journal “роботы” Tag

  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 6 comments