Иллюзии роботов

Механизация и автоматизация производства освобождают человека от ряда трудоемких операций. Машины становятся нашими помощниками, дополнительными руками, глазами и даже мозгом. Формальное продолжение этой тенденции привело к идее робота, т.е. машины с человеческим обликом и многими человеческими качествами.

Хотя теперь мало кто сомневается в принципиальной возможности создания искусственных людей, все же идея робота как общественного явления антинаучна и антиисторична. Но она слишком живуча, особенно в кино и литературе. Поэтому от нее нельзя просто так отмахнуться.

Прежде всего надо подчеркнуть, что общество не имеет ничего против так называемых промышленных роботов, т.е. ловких машин, но все-таки машин, никак не напоминающих человека внешне и, уж конечно, не претендующих на то, чтобы занять место человека в обществе.

Далее речь пойдет о роботах, которые по замыслу литераторов должны во всем сравняться с человеком.

Первая несуразность идеи робота вызвана отжившими представлениями о человеке как о вершине совершенства. Когда К.Чапек ввел в обращение это ключевое слово, тогда в самом деле машины сильно уступали человеку, и цель приближения к человеческому организму выглядела вполне достойной. Сейчас выяснилось, что даже в мыслительной деятельности машины могут сильно превзойти человека. Стало очевидно, что человеческий организм, в частности мозг, далек от идеала, и нет никакой надобности копировать посредственность, когда можно создавать нечто гораздо более совершенное и, главное, полезное. А с рождаемостью проблемы на Земле пока нет, наоборот, есть проблема перенаселенности.

Поэтому копирование человеческого облика в машине - это скорее развлечение, спортивный интерес, а отнюдь не общественная потребность.

Другая иллюзия состоит в том, что робота хотят видеть хоть и способным, но все же придурковатым простачком, ограниченность которого становится неиссякаемым источником комических ситуаций и который неизменно проигрывает человеку, когда тот начинает вести сложную интеллектуальную игру.

Но уже сейчас машина способна обыграть лучшего шахматиста мира. Как бы она не посрамила человека и во всем остальном.

Третью ошибку делают, когда говорят о вытеснении людей роботами. Причина - в формальном продолжении социальных процессов: раз люди делают революции, то пусть их делают и роботы, коль они похожи на людей. Но люди-то борются за жизненное пространство, за хлеб, за землю, за воздух. А нужен ли роботу хлеб, одежда, вилла на берегу моря? Разумеется, пересечение интересов возможно, но по существу человеку и машине делить нечего. Наоборот, взаимное дополнение наиболее выгодно обеим сторонам.

Еще одно заблуждение состоит в привнесении в будущее отживающих потребностей. Робот был бы сейчас очень полезен, так как много еще осталось неинтересного и тяжелого физического труда. Но когда действительно появится возможность создать механического человека - мастера на все руки, то к тому времени исчезнет всякий тяжелый труд, исчезнет сама необходимость во всех тех делах, которые сегодня мы хотели бы поручить роботу. Потому что развитие техники идет не по пути замены человека машиной на его рабочем месте, а по пути замены самого рабочего места. Вместо робота-извозчика, вместо робота с лопатой появляются гораздо более простые и производительные механизмы.

И наконец, чисто экономическая сторона: сколько стоит изготовление робота и каков экономический эффект, если он будет, скажем, разносить блюда в ресторане? Именно простой денежный расчет ставит крест на многих грандиозных проектах и заставляет отказаться даже от очень нужных вещей, а уж от такой сомнительной игрушки как робот - тем более.

Еще мы рассмотрим законы роботехники А.Азимова. Сейчас, наверное, мало кто о них вспомнит. И все же это - одна из первых попыток декларировать отношения человека с мыслящей машиной. Поэтому важно ее рассмотреть хотя бы для того, чтобы показать невозможность решения вопроса несколькими ловкими и привлекательными фразами.

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться командам человека, если эти команды не противоречат Первому закону.

3. Робот должен заботиться о своей безопасности, поскольку это не противоречит Первому и Второму закону.

Наиболее неудачным является первый закон, потому что пользы без вреда не бывает. Перед каждым человеком, всем обществом стоит большое число разных задач. Решая одни задачи, человек неизбежно оставляет в стороне другие, вольно или невольно нанося ущерб другим людям или даже самому себе. Даже самые благородные намерения, величайшие творения человека плохи уже тем, что подчеркивают посредственность других людей, порождают непонимание и зависть. Если во все это со своей помощью сунется робот, то он станет наиболее подходящим козлом отпущения, и неясно, какой адвокат возьмется отстаивать невиновность робота.

Кроме того, в обществе всегда существуют различные мнения, течения, партии. Есть группировки в коллективах, есть разные стороны и конфликты в семье. Невозможно принимать участие в жизни, не имея никакой позиции. А выбрав позицию, робот обязательно станет чьим-то врагом или соперником. Если же робот принципиально не станет ни во что вмешиваться, то тем более нанесет вред, не окупив затраты на его создание.

Первый закон очень похож на заповедь "не убий". Порожденный только благими намерениями, в реальной противоречивой жизни он становится пустой и вредной догмой.

Чтобы понимать, что такое вред, надо иметь сострадание, надо самому прочувствовать несправедливость на себе, надо самому быть человеком. А вряд ли человеку нужен робот-страдалец, отшельник, погруженный в свои философские искания и отгородившийся от мира. Нужен робот-слуга, не поучающий всех мудрец, а исполнитель, безропотно переносящий тяготы и лишения, т.е. неспособный страдать, а значит, и сострадать. Что же будет с человеком, когда ухаживать за ним станут заботливые идиоты? О результате нетрудно догадаться, его описал еще И.А.Крылов: "Услужливый дурак опаснее врага".

Теперь обратимся ко второму закону, к повиновению командам человека. Сразу возникает вопрос: какого человека? Если бы на Земле был только один человек, тогда вопроса не было бы. А всем сразу повиноваться невозможно. Слуга двух господ неизменно попадает в глупые положения и в результате вообще не справляется с делом.

Что ж, пусть у каждого робота будет только один хозяин. Главная трудность состоит в понимании приказа. Любые слова неоднозначны, неточны, имеют переносный смысл. Приказ из двух-трех слов может быть трактован десятками способов, причем самый дословный из них, как правило, менее всего соответствует замыслу командира. Известно, что самый лучший способ развалить любое дело - это в точности выполнять все заведенные инструкции. Поэтому если у машины нет достаточного интеллекта и опыта, то слепое повиновение окажется хуже неповиновения.

А если робот намного умнее человека, то надо ли вообще выполнять глупый приказ, вредный для того же человека. Может быть, полезнее для человека будет, если он сам станет повиноваться более умному и предусмотрительному роботу?

Таким образом, первые два закона невыполнимы. Конечно, возможна во многих ситуациях иллюзия их выполнения, следования букве закона. Но не менее часто они будут нарушаться, и непонятно, что тогда делать с нарушителями.

Из всех законов можно извлечь только одно более или менее непротиворечивое правило: робот должен заботиться о своей безопасности. Правда, вряд ли этот огрызок от законов понравится человеку.

На самом деле взаимоотношения человека и машины лежат в другой плоскости, в плоскости исторического развития. Робот как двойник человека вырван из исторического развития, и проблемы, связанные с ним, надуманы. Н.В.Невесенко
Нажми «Нравится» и читай нас в Facebook!

Обсуждения Иллюзии роботов

  • Тут я с Вами согласен.
     
  • Геннадий, действительно, ум весьма трудно в чем-то измерить. Одни считают, что какими-то делами, достижениями. По другим критериями ум проявляется в том, чтобы промолчать, не вмешиваться в заведомо пустые дела.
    Я склонен считать, что деловая активность если и не добавляет врожденного ума, то по крайней мере, позволяет ему раскрыться. Нередко, наоборот, люди не догадываются о своих талантах, сторонясь дел, которые, может быть, действительно никчемные.
    Возможно, вершины ума уже достигнуты на людях, а далее в машинах предстоит только повышать чисто технические показатели производительности. Скорость вычислений - это не ум. Но на практике есть множество задач, которые на машине легко решаются тупым перебором вариантов, но даже самый умный человек не в состоянии их осилить, поскольку не может с той же скоростью перебирать варианты.
    Поэтому дальнейший прогресс в познании может достигаться отнюдь не высшими образцами мышления. Искусственный разум сможет брать многие барьеры числом, а не умением. Вот на такой путь познания мира я хотел бы обратить внимание. Хотя, кто его знает, каковы еще могут быть подлинные вершины ума? Может, это пока не нашего ума дело, а далеких потомков? Н.В.Невесенко
     
  • Гали, я совсем не склонен давать оценки чьему -либо уму. Не знаю таких оценок. Думаю, их никто не предоставит. Мне может только нравиться или нет. Но это ни о чем не говорит. И разговор завел, увидев у Николая некие оценки, типа идеальный ум или не идеальный, чему удивился.
    А насчет решить, то есть представить последствия, так думаю никто не в состоянии их просчитать до конца. Кто-то ограничивается непосредственным последствием, кто-то продумывает дальше, но принимают решения все. Даже любая зверюга принимает решения и просматривает непосредственные последствия, типа - насытится при минимальных издержках, когда выходит на охоту.
     
  • Я согласен, Николай, что для определенного вида деятельности нужны специально подготовленные люди. Таких обучают в школах, в институтах, готовят инженеров. Это не означает, что готовят умных людей - а только специалистов. И тесты и экзамены проводят для оценки усвоенных знаний. И если такой оказался способным решать практические задачи, ему и платят хорошо. Но повторю, это оценка полученных знаний и способностей ими воспользоваться, тут и робот подойдет. Но оплата вовсе не служит оценкой ума, для которого не придумано никаких оценок. А ум - это что-то вроде таланта, если его нет, то никакие таблетки не помогут.
    Так что ум и успешность в жизни - штуки слабо коррелированные. Думаю, что умным людям плевать на успешность. Они вполне находят комфорт в своем достатке, у них своё мироощущение, а дуракам всего мало. И не думаю, что мозг нуждается в совершенстве, он всегда соответствует своему предназначению. То есть он всегда совершенен. Как говорится, каждому - своё. По предназначению. А они не обязаны быть одинаковыми.
     
  • Геннадий, я всегда стараюсь быть точнее, опираться на науку, но все же у нас тут не бухгалтерия. Выражение "далек от идеала" - это не научный термин. Его используют и для неопрятного человека, и для грязной раковины. Собственно, никакой определенный идеал при этом не подразумевается. Поэтому я не ожидал, что в словах "мозг далек от идеала" можно увидеть "дискретный вердикт", да еще однозначный и без нюансов.
    По-моему, ясно, что никакого идеала в мышлении пока нет. Или он так далеко, где-то на божественном уровне, что это равносильно его отсутствию. Пока можно замечать, что одни люди в чем-то сообразительнее других, в чем-то всех их превосходят ЭВМ. Но предел совершенства - за рамками сегодняшнего понимания. Нет и надежных критериев качества. Конечно же, скорость - это еще не гарантия качества. И все тесты однобоки, мы об этом с Вами уже говорили.
    С другой стороны, неверно было выбросить и все косвенные показатели. Тогда бы пришлось признать неверной всю систему оценок в школе и ВУЗах, а то и вовсе их закрыть, раз количество знаний ничего не значит.
    Поэтому я по-прежнему настаиваю, что человеческий мозг далек от идеала, имея ввиду, что в принципе можно мыслить быстрее, можно одновременно решать множество разных задач. Нередко в институтах гениальные одиночки делают работу сотен человек. Не секрет, что талантливых людей ценят, им больше платят. При неизбежной капиталистической конкуренции более работоспособный человек имеет больше шансов занять достойное место в обществе, получать больше материальных благ.
    Уже давно используются препараты для повышения жизненной активности организма. В спорте эта гонка нередко выходит за рамки закона и превращается в издевательство над своим организмом. Но люди идут и на это. Для того, чтобы стать умнее, прямых средств не придумано. Но если бы были, то их наверняка расхватали бы в борьбе за место под солнцем.
    Так что в принципе есть перспективы совершенствования человеческого мозга и нашего мышления. Я не вижу, чему тут стоит удивляться. Н.В.Невесенко
     
  • А, понимаю.. мы здесь по-разному читаем слово "решить". Решить задачу, решать задачу - это предполагает способность ставить задачу, анализировать и прогнозировать результат и его последствия. На это плохой ум, по моему определению, не способен. А если способен, как назвать его "плохим"?
    И потом, если даже Вам лично не нравится чья-то идея и Вы бы не стали её внедрять в своей реальности, то это ведь не означает, что она не может стать чьим-то идеалом?
     
  • Гали, Вы же сами сказали "плохой ум - плохие идеи". Правильно сказали. Но продолжим дальше - плохой ум придумал плохую идею и решил её внедрить (как это часто бывает), разве от этого решения он стал хорошим? Или идея похорошела?
     
  • Николай, ну Вы же сами утвердили дискретный вердикт - "Стало очевидно, что мозг далек от идеала". В этом вердикте нет нюансов. Он однозначен.
    И насчет выводов хорош мозг или плох, полагаясь на скорость счета или на память разных правил, то вряд ли можно применять такую методику для оценки качества мышления. Поэт, например, вообще не умеет считать, так он дурак? Так Вы любого безграмотного можете записать в дураки. Тесты придумали люди, и вряд ли они самые умные, чтоб на них ориентироваться. И вообще - не стоит увязывать ум с выходом из пещер. Нужда, что заставляет что-то предпринять, и ум - разные вещи.
     
  • Не спорю, плохой мозг - дешевые идеи. Но плохой мозг, обычно, ничего и не способен решить, а если решает, значит, уже не плох.
     
  • Геннадий, Вы же обычно умеете выделять тончайшие оттенки жизни. А тут: "плохой", "вывод не верен", "работает плохо, и значит хорошего идеала в принципе придумать не может".
    Вы же прекрасно знаете, что не бывает ничего только плохого или только хорошего. Есть недостатки у самого порядочного человека, ошибается даже самый умный. Но и самый глупый ориентируется в обществе, иначе просто не мог бы жить.
    Разве это противоречиво, что человек заметил, когда кто-то другой богаче, стройнее, умнее его. Есть более или менее объективные тесты. Но даже в школе последний двоечник может осознавать, что кто-то решает школьные задачки быстрее или лучше него. При достаточном усердии он сможет проверить решения товарища и убедиться в его превосходстве.
    Вычислительные машины могут производить вычисления в миллионы раз быстрее человека. Чтобы заметить это, совсем не надо самому мыслить быстрее в миллион раз.
    Отнюдь не божественные люди придумали множество божественных идеалов. Так что какой бы ни был человек, идеалы придумывать ему ничто не мешает. Качество идеала - это другой вопрос. Но опять же есть объективные проверяльщики, например, в лице ЭВМ. Не все получается ладно. Но если бы вообще не получалось, то люди так и остались бы в пещерах, даже дубину не изобрели бы. Н.В.Невесенко
     
  • Это какой же идеал может быть у плохого мозга? Он же плохой а значит работает плохо, и значит хорошего идеала в принципе придумать не сможет.
     
  • > Мозг решил, что он не идеален. Значит, у него имеется идеал.)
     
  • "Стало очевидно, что человеческий организм, в частности мозг, далек от идеала". Мозг решил, что он не идеален. Значит и его вывод не верен.
     

По теме Иллюзии роботов

Этика роботов

Сегодня роботы разрабатываются для того, чтобы существовать автономно, без...
Журнал

Эволюция роботов

Процесс эволюции головного мозга, занявший у живых существ миллионы лет...
Журнал

Цивилизация роботов

- Господин Кернбах, давайте для начала разберемся: что же такое робот? - Принято...
Журнал

Зеленых человечков променяли на роботов

Далекие планеты скорее всего заселены не цивилизованными организмами, а...
Журнал

Иллюзии цели

Вряд ли понятию цели вообще можно дать хорошее научное определение. Но есть...
Журнал

Иллюзии аксиоматизации

Аксиомы и аксиоматизация - это важные инструменты познания. Им сопутствуют...
Журнал

Опубликовать сон

Гадать онлайн

Пройти тесты

Популярное

Почему нельзя держать дома монстеру
Карма как доказательство бессмертия