Можно ли запретить искусственный разум?

Конечно, можно! Аналогично тому, как существует в обществе множество запретов и преследований за их нарушение. Другое дело, насколько эффективными могут оказаться запреты на разработку ИР, и надо ли в таком случае их вообще вводить?

Насчет надобности ограничений также могу определенно сказать об их необходимости. Искусственный разум - это оружие. Сейчас в зачаточном состоянии он относительно безобиден. Но любая сила и энергия (как, например, атомная) всегда может быть использована в корыстных целях и послужить разрушению, а не созиданию. Если даже сам ИР не имеет таких коварных замыслов, то для катастрофы вполне достаточно, если таковые есть у людей.

Поэтому в любых исследованиях, опасных для человечества (например, генетических), крайне необходим широкий общественный контроль. Вполне естественны самые крайние мнения о решительном запрете всяких исследований. Такие мнения должны уравновесить собой поспешные и непродуманные забегания вперед, остудить некоторые слишком горячие головы, ввести все процессы в цивилизованное русло. А уж какое направление победит - должно по возможности решаться демократически. Но если возникнет очевидная опасность (как, например, от наркомании), то вероятно, понадобятся и решительные меры.

Теперь главное в этой статье: а будут ли эффективны запретительные меры?

Прежде чем запрещать, надо понять, что собственно подлежит запрету. Как отличить все другие работы программистов от исследований по ИР? И вот тут возникает проблема, потому что никаких особых отличительных признаков нет. Ну, допустим, общество вообще запретит употреблять слова "искусственный разум". Но что от этого изменится? Та же исследовательская фирма вывесит другое название, например, "Фонд содействия сиротам", и продолжит прежнюю деятельность. Как можно поймать исследователя за руку, если вся его продукция состоит из тех же нулей и единиц, как и любая реклама мыла или туалетной бумаги?

В иных областях деятельности для масштабных разработок требуются здания, лаборатории, дорогостоящее оборудование, мощное финансирование. А писать программы можно дома, лежа на диване. Это 40-50 лет назад ЭВМ смахивали на прокатный стан. Потом они стали настольными, сейчас - карманными, а скоро станут микроскопическими, их можно будет просто запрятать в ухе или даже в клетках мозга. Причем речь не об одном компьютере. Всевозможными сложными датчиками может быть нашпигован весь человеческий организм.

Сейчас можно управлять компьютером, лишь помахивая пальцем. Это уже массово. Уже можно управлять и мыслью, но пока дорого. Но будет так же дешево и массово. Затем, вероятно, удастся напрямую подключиться к тройничному нерву и экран компьютера окажется в мозгу. Не знаю, понадобится ли для этого копаться в голове физически, но и это со временем придет. Возможно, для связи будет достаточно радиоволн.

Другой вопрос: надо ли далее развивать вычислительную технику? Не лишне сказать, что техника развивается, никого не спрашивая. И если что-то пока кажется излишеством, то потом оно смело вторгается в нашу жизнь и становится неотъемлемой ее частью (как, например, сотовые телефоны). Зачем, например, нужны датчики в человеческом теле? Пока их нет, то вроде не нужны. Но ведь мы тащимся в поликлинику, сдаем нудные анализы, так как хотим быть здоровыми.

А теперь представьте, что на унитазе можно разместить копеечный анализатор, который постоянно будет сообщать о качестве продукции. Желающие, конечно, могут традиционно собрать все в коробочку и лично оттащить ее в поликлинику. Но если там скажут то же самое, то зачем тащиться?

Сейчас мы не имеем возможности оперативно следить за состоянием своего здоровья. О болезни человек узнает тогда, когда его уже надо спасать. А если в теле будут стоять микроскопические анализаторы по размерам меньше домашней пыли, то они будут иметь не только личное, но и общественное значение, поскольку здоровье граждан - это общественное достояние. И гораздо выгоднее обнаружить заболевание в самом его начале, нежели тратить потом огромные средства на лечение.

Здоровый человек всегда имеет больше шансов получить хорошую работу. А компьютерно-грамотный - тем более. Теперь представьте, что у него в ухе или где поглубже стоит мощный компьютер, позволяющий многократно повысить производительность труда. Именно такого предпочтут взять на работу, а не того, кто умеет только переписывать бумажки.

Всевозможные анализаторы на теле человека открывают и другую, негативную сторону этого явления: санкционированную или тайную слежку за гражданами. Но так ли нова слежка и можно ли вообще ее пресечь? Сегодня она стала массовой индустрией, делом не только каких-то мелких мошенников, а всего государства. И это не случайно. Никакие мошенники, преступники, террористы не станут церемониться в этом направлении, и победить их можно, только играя на опережение, т.е. постоянно и в авральном порядке разрабатывая все более тонкие и изощренные средства наблюдения.

Правда, эти средства вскоре попадают и в арсенал преступников. Так что гонка идет. И не видно, что могло бы ее остановить, если само государство является запевалой в этой гонке.

Слежка исключительно важна в военной сфере. Даже жизненно необходима. Здесь очень важно уследить, у кого потянется рука к красной кнопке. Тогда можно будет принять контрмеры. А будешь спать - заведомо проиграешь.

Очень показательна история с энигмой, когда немецкие спецслужбы до конца Второй мировой войны были уверены, что коды энигмы не могут быть разгаданы. А британские службы расшифровали их и постоянно были в курсе всех основных немецких планов. Надо ли говорить, как важно знать планы противника! Да еще чтобы противник об этом не догадывался! Так чисто технические средства позволили заметно повлиять на ход всей Второй мировой войны.

Всевозможные датчики и контроль над человеческим организмом - это еще не самое главное, куда может вторгнуться вычислительная техника. Ее будущее: управление всем человеческим обществом. Сейчас это может показаться ужасным, но это в значительной мере уже сбылось.

Скажите, может ли совершенно безмозглый идиот управлять людьми, причем люди массово и безропотно станут ему подчиняться? Конечно, вы скажете: нет. Тогда посмотрите на любой светофор на любом перекрестке.

Люди уже давным-давно вверили свою жизнь машинам. Без них просто невозможно уследить за другими машинами, за заводами, шахтами, электростанциями, любыми производствами. Электроникой и сложными программами уже напичканы автомобили и стиральные машины. Если все это вдруг ликвидировать, то немедленно наступит каменный век.

Мы по старинке думаем, что человек все делает качественнее, умнее. Но так ли это? Посмотрите на президента мощнейшей державы, который читает речи по бумажке, проявляя потрясающее невежество в истории. Право, самый бездушный автомат сделал бы это лучше.

Высшие государственные должности - это вообще непосильный труд для человека. Да и там фактически всю информацию собирают машины. Но даже сделать из нее правильный вывод - непосильно человеку. К тому же реагировать надо быстро, особенно в экономике. А там, где явно решают люди: какую страну в очередной раз бомбить, - регулярно получается отрицательный результат.

Непосильность управления государством хорошо проявляется на примерах отживающих монархий. Если попался умный король - ба! какой сюрприз! он еще и может быть полезным! Но попадаются все реже. А жизнь становится все сложнее. Значит, власть передается аристократии или народу. А если учесть насколько ловко теперь манипулируют общественным мнением, то можно сказать, что власть в значительной мере передается стихии или мошенникам. Тут и призадумаешься, кому больше доверять: глупой машине или заведомым проходимцам.

Поэтому прежде чем бороться с искусственным разумом, надо разобраться, что собственно следует запрещать. Интернет и все информационные сети? Но тогда мы останемся без штанов. По сути такие сети уже есть тело искусственного разума. Всевозможные поисковики - это последний шаг перед полноценным искусственным разумом. И шаг этот очень невелик. Даже не заметен. Просто ответы получаются более краткие и более точные, нежели в прежних поисковиках. Так что же, запретить эту точность?

Можно и запретить. Но найдутся миллионы предпринимателей и простых тружеников, которые сочтут запрет варварским. А значит, найдутся желающие писать программы, дающие еще более грамотные и содержательные ответы. Насколько действенны запреты в программировании можно судить по небывалому росту компьютерных преступлений и по десяткам тысяч разновидностей вирусов, наносящих огромный экономический вред. Не припомню ни одного показательного процесса над разработчиком вирусов.

Можно запретить организации, но нельзя запретить человеческую мысль, хотя бы потому, что широко проникнуть в мозг пока не удается, не говоря уже о том, что это было бы грубейшим вмешательством в личную жизнь.

Таким образом, искусственный разум - это не есть нечто навязанное силой извне. Это вся человеческая культура, техника, производство. Любые достижения человеческой мысли в принципе могут быть использованы в разрушительных целях, и с этим несомненно надо бороться. Но остановить развитие разума невозможно. Н.В.Невесенко