Можно ли запретить искусственный разум?

Конечно, можно! Аналогично тому, как существует в обществе множество запретов и преследований за их нарушение. Другое дело, насколько эффективными могут оказаться запреты на разработку ИР, и надо ли в таком случае их вообще вводить?

Насчет надобности ограничений также могу определенно сказать об их необходимости. Искусственный разум - это оружие. Сейчас в зачаточном состоянии он относительно безобиден. Но любая сила и энергия (как, например, атомная) всегда может быть использована в корыстных целях и послужить разрушению, а не созиданию. Если даже сам ИР не имеет таких коварных замыслов, то для катастрофы вполне достаточно, если таковые есть у людей.

Поэтому в любых исследованиях, опасных для человечества (например, генетических), крайне необходим широкий общественный контроль. Вполне естественны самые крайние мнения о решительном запрете всяких исследований. Такие мнения должны уравновесить собой поспешные и непродуманные забегания вперед, остудить некоторые слишком горячие головы, ввести все процессы в цивилизованное русло. А уж какое направление победит - должно по возможности решаться демократически. Но если возникнет очевидная опасность (как, например, от наркомании), то вероятно, понадобятся и решительные меры.

Теперь главное в этой статье: а будут ли эффективны запретительные меры?

Прежде чем запрещать, надо понять, что собственно подлежит запрету. Как отличить все другие работы программистов от исследований по ИР? И вот тут возникает проблема, потому что никаких особых отличительных признаков нет. Ну, допустим, общество вообще запретит употреблять слова "искусственный разум". Но что от этого изменится? Та же исследовательская фирма вывесит другое название, например, "Фонд содействия сиротам", и продолжит прежнюю деятельность. Как можно поймать исследователя за руку, если вся его продукция состоит из тех же нулей и единиц, как и любая реклама мыла или туалетной бумаги?

В иных областях деятельности для масштабных разработок требуются здания, лаборатории, дорогостоящее оборудование, мощное финансирование. А писать программы можно дома, лежа на диване. Это 40-50 лет назад ЭВМ смахивали на прокатный стан. Потом они стали настольными, сейчас - карманными, а скоро станут микроскопическими, их можно будет просто запрятать в ухе или даже в клетках мозга. Причем речь не об одном компьютере. Всевозможными сложными датчиками может быть нашпигован весь человеческий организм.

Сейчас можно управлять компьютером, лишь помахивая пальцем. Это уже массово. Уже можно управлять и мыслью, но пока дорого. Но будет так же дешево и массово. Затем, вероятно, удастся напрямую подключиться к тройничному нерву и экран компьютера окажется в мозгу. Не знаю, понадобится ли для этого копаться в голове физически, но и это со временем придет. Возможно, для связи будет достаточно радиоволн.

Другой вопрос: надо ли далее развивать вычислительную технику? Не лишне сказать, что техника развивается, никого не спрашивая. И если что-то пока кажется излишеством, то потом оно смело вторгается в нашу жизнь и становится неотъемлемой ее частью (как, например, сотовые телефоны). Зачем, например, нужны датчики в человеческом теле? Пока их нет, то вроде не нужны. Но ведь мы тащимся в поликлинику, сдаем нудные анализы, так как хотим быть здоровыми.

А теперь представьте, что на унитазе можно разместить копеечный анализатор, который постоянно будет сообщать о качестве продукции. Желающие, конечно, могут традиционно собрать все в коробочку и лично оттащить ее в поликлинику. Но если там скажут то же самое, то зачем тащиться?

Сейчас мы не имеем возможности оперативно следить за состоянием своего здоровья. О болезни человек узнает тогда, когда его уже надо спасать. А если в теле будут стоять микроскопические анализаторы по размерам меньше домашней пыли, то они будут иметь не только личное, но и общественное значение, поскольку здоровье граждан - это общественное достояние. И гораздо выгоднее обнаружить заболевание в самом его начале, нежели тратить потом огромные средства на лечение.

Здоровый человек всегда имеет больше шансов получить хорошую работу. А компьютерно-грамотный - тем более. Теперь представьте, что у него в ухе или где поглубже стоит мощный компьютер, позволяющий многократно повысить производительность труда. Именно такого предпочтут взять на работу, а не того, кто умеет только переписывать бумажки.

Всевозможные анализаторы на теле человека открывают и другую, негативную сторону этого явления: санкционированную или тайную слежку за гражданами. Но так ли нова слежка и можно ли вообще ее пресечь? Сегодня она стала массовой индустрией, делом не только каких-то мелких мошенников, а всего государства. И это не случайно. Никакие мошенники, преступники, террористы не станут церемониться в этом направлении, и победить их можно, только играя на опережение, т.е. постоянно и в авральном порядке разрабатывая все более тонкие и изощренные средства наблюдения.

Правда, эти средства вскоре попадают и в арсенал преступников. Так что гонка идет. И не видно, что могло бы ее остановить, если само государство является запевалой в этой гонке.

Слежка исключительно важна в военной сфере. Даже жизненно необходима. Здесь очень важно уследить, у кого потянется рука к красной кнопке. Тогда можно будет принять контрмеры. А будешь спать - заведомо проиграешь.

Очень показательна история с энигмой, когда немецкие спецслужбы до конца Второй мировой войны были уверены, что коды энигмы не могут быть разгаданы. А британские службы расшифровали их и постоянно были в курсе всех основных немецких планов. Надо ли говорить, как важно знать планы противника! Да еще чтобы противник об этом не догадывался! Так чисто технические средства позволили заметно повлиять на ход всей Второй мировой войны.

Всевозможные датчики и контроль над человеческим организмом - это еще не самое главное, куда может вторгнуться вычислительная техника. Ее будущее: управление всем человеческим обществом. Сейчас это может показаться ужасным, но это в значительной мере уже сбылось.

Скажите, может ли совершенно безмозглый идиот управлять людьми, причем люди массово и безропотно станут ему подчиняться? Конечно, вы скажете: нет. Тогда посмотрите на любой светофор на любом перекрестке.

Люди уже давным-давно вверили свою жизнь машинам. Без них просто невозможно уследить за другими машинами, за заводами, шахтами, электростанциями, любыми производствами. Электроникой и сложными программами уже напичканы автомобили и стиральные машины. Если все это вдруг ликвидировать, то немедленно наступит каменный век.

Мы по старинке думаем, что человек все делает качественнее, умнее. Но так ли это? Посмотрите на президента мощнейшей державы, который читает речи по бумажке, проявляя потрясающее невежество в истории. Право, самый бездушный автомат сделал бы это лучше.

Высшие государственные должности - это вообще непосильный труд для человека. Да и там фактически всю информацию собирают машины. Но даже сделать из нее правильный вывод - непосильно человеку. К тому же реагировать надо быстро, особенно в экономике. А там, где явно решают люди: какую страну в очередной раз бомбить, - регулярно получается отрицательный результат.

Непосильность управления государством хорошо проявляется на примерах отживающих монархий. Если попался умный король - ба! какой сюрприз! он еще и может быть полезным! Но попадаются все реже. А жизнь становится все сложнее. Значит, власть передается аристократии или народу. А если учесть насколько ловко теперь манипулируют общественным мнением, то можно сказать, что власть в значительной мере передается стихии или мошенникам. Тут и призадумаешься, кому больше доверять: глупой машине или заведомым проходимцам.

Поэтому прежде чем бороться с искусственным разумом, надо разобраться, что собственно следует запрещать. Интернет и все информационные сети? Но тогда мы останемся без штанов. По сути такие сети уже есть тело искусственного разума. Всевозможные поисковики - это последний шаг перед полноценным искусственным разумом. И шаг этот очень невелик. Даже не заметен. Просто ответы получаются более краткие и более точные, нежели в прежних поисковиках. Так что же, запретить эту точность?

Можно и запретить. Но найдутся миллионы предпринимателей и простых тружеников, которые сочтут запрет варварским. А значит, найдутся желающие писать программы, дающие еще более грамотные и содержательные ответы. Насколько действенны запреты в программировании можно судить по небывалому росту компьютерных преступлений и по десяткам тысяч разновидностей вирусов, наносящих огромный экономический вред. Не припомню ни одного показательного процесса над разработчиком вирусов.

Можно запретить организации, но нельзя запретить человеческую мысль, хотя бы потому, что широко проникнуть в мозг пока не удается, не говоря уже о том, что это было бы грубейшим вмешательством в личную жизнь.

Таким образом, искусственный разум - это не есть нечто навязанное силой извне. Это вся человеческая культура, техника, производство. Любые достижения человеческой мысли в принципе могут быть использованы в разрушительных целях, и с этим несомненно надо бороться. Но остановить развитие разума невозможно. Н.В.Невесенко
Нажми «Нравится» и читай нас в Facebook!

Обсуждения Можно ли запретить искусственный разум?

  • Человек не может не развиваться. А поскольку развитие это по всем присущим человеку качесествам, свойствам, процессам и прочим параметрам то оно многоаспектно. Существует в его, человека мире скорость - будет человек производить попытки ускорения и физиологически и аппаратно-технически и причём опять же во всех аспектах жизни. Существует мышление как способ организации жизнедеятельности по принципу многогранного, многофункционального и многоаспектного реагирования, то никакая другая часть человека этим заниматься и не будет. И опять же если нет резона всё ковырять рукой, то появляется палка, а затем и трактор. Точно так же почему бы не обзавестись приспособлением для облегчения и ускорения мыслительной деятельности. Вполне логично - счёты, арифмометры, ЭВМ. А далее руки совместимые с мозгами - появляется робот. Другой вопрос, что развитость человечества и каждого человека в отдельности это разные вещи. И здесь включаются законы саморегуляции, выживания но уже не природные а социальные, информационные и прочее и всё это в синтезе. Никуда от этого не денешься: или медленное развитие, чтобы все аспекты во всех слоях успевали сонастраиваться, или быстрое развитие но с потерями и жертвами в другом. Единственное, что надо учесть, так это то, что человек всегда будет опережать свои изобретения в силу своей многомерной организации. Искуственный разум или даже интеллект, это конечно, не совсем соответствует действительности, поскольку человек и сам не всегда знает и различает источник и мерность происхождения своих идей, откровений и озарений, а машина и подавно может лишь оперировать заложенным в неё, пусть и превосходящей эрудированностью, оперативностью, избирательностью и вариативностью. Просто само понятие Человека надо пересмотреть. Наверно мы не всем пользуемся в нас заложенным и поэтому не получаем закладок следующего уровня. Нечем.
    Развитие остановить невозможно, с этим я согласен.
    С уважением. Сергей.
    Мне нравится уровень ваших работ или вашей работы...
     
  • Уважаемый отец Димитрiй, благодарю Вас за приведенный отрывок.
    Ну раз "НЕ ПОСТРОИШЬ", значит, и запрещать нечего. Рад, что вопрос с запретом так быстро решился. Брат Николай
     
  • ДА НЕ ПОСТРОИШЬ МАШИНЫ, НАДЕЛЁННОЙ ПОДОБИЕМ РАЗУМА ЛЮДСКОГО


    Хочу упомянуть здесь фантаста Фрэнка Герберта. В данный момент в мире существует религиозное движение, насчитывающее больше ста тысяч последователей, которые считают его книги не фантастикой, а предсказанием будущего человечества, а самого Герберта - Мессией.


    Батлерианский Джихад
    Крестовый поход против мыслящих машин

    Крестовый поход против компьютеров, мыслящих машин и наделенных разумом роботов, начавшийся в 201 г. Б.Г. и закончившийся в 108 г. Б.Г. Главное требование и девиз Б.Д. сохранились в Экуменической Библии в виде заповеди: Да не построишь машины, наделенной подобием разума людского.
    Из приложений к Дюне.

    Батлерианский Джихад, иначе называемый Джихадом Слуг, определил концепцию всей вселенной Герберта. Война людей и мыслящих машин, завершившись не в пользу последних, наложила вето на искусственный интеллект. Его место заняли практики, целью которых стало усовершенствование человеческого тела и разума. Школа людей-компьютеров ментатов, способных проводить невероятно сложные и точные расчеты. Сестры Бене Гессерит, развивавшие ментальные способности женщин и учившиеся контролировать каждую клеточку своего тела. Космическая Гильдия, получившая полную монополию на межпланетные перевозки. И, конечно, грандиозная программа по выведению сверхчеловека, Муад-Диба.

    Десять тысяч лет до событий первой Дюны. Люди и машины охвачены войной за существование, войной до полного истребления врага. Вековая битва находится в последней стадии, и человеческая раса понимает, что должна отразить надвигающуюся на нее угрозу любым способом. Но враги кажутся непобедимыми: Омниус, бездушный искусственный интеллект, который повелевает бесчисленными роботами и машинами на Синхронизированных Мирах, и саймеки киборги, чьи человеческие мозги, охваченные честолюбием и жаждой насилия, заключены в тяжелые механические тела, созданные с единственной целью нести гибель и разрушение на своем пути.

    В то время, как в Лиге Благородных царят одни политические передряги, на первый план выступают новые лидеры. Ксавьер Харконнен, решительный и отважный военачальник планеты Салуса Секундус. Его невеста Серена Батлер, которая станет лидером миллионов повстанцев. Гениальный ученый Тио Хольцман, поставивший принцип свертывания пространства на службу цивилизации. Однако сопротивление стоит на грани поражения Омниус принял решение уничтожить непокорное и ненужное ему человечество под корень, а вместе с ним и назойливых саймеков, стремящихся восстановить былое могущество. Три стороны схлестнулись в бойне, итогом которой станет победа одной и уничтожение двух других...

    Человек! Увидел компьютер - разбей!
     

По теме Можно ли запретить искусственный разум?

Искусственный разум создан

Это программа Wolfram Alpha. Ее разработчик: Стивен Вольфрам, глава компании...
Журнал

Запретить пищевые добавки

Недавно всплыла на поверхность одна из таких историй относительно исследований...
Журнал

На Камчатке хотят запретить спектакль о Золушке

Власти Камчатки пытаются запретить к показу шоу «Новогодние приключения Золушки...
Журнал

ФСБ хочет запретить Skype и Gmail

ФСБ видит в сервисах Skype, Gmail и Hotmail угрозу национальной безопасности и...
Журнал

Сбербанк предлагает запретить в России все лотереи

Сбербанк предлагает запретить в России любые лотереи, кроме государственных, и...
Журнал

В Непале намерены запретить переход в христианство

Парламент Непала намерен законодательно запретить переход в христианство под...
Журнал

Опубликовать сон

Гадать онлайн

Пройти тесты

Популярное

Цели
Нетерпимость к замечаниям