Nano (Молекулярная нанотехнология и перспективы её развития), страница 2

Каков же выход? По нашему мнению возможен следующий вариант. Нужно заключить всемирный договор о неразработке и уничтожении информации о любом виде оружия. Тут сразу встаёт много проблем, но надо их решить прежде, чем “погибнуть от гильотины или под мучительными пытками”.

По сути, договор о неразработке и уничтожении информации об оружии является необходимой частью закона об отмене смертной казни, который якобы принят в цивилизованных странах. Ведь оружие – это инструмент для приведения в исполнение приговора о смертной казни каких-то людей (тем хуже, что заранее неизвестно, кто может быть этими людьми). Таким образом, разрешая и, тем более, стимулируя производство оружия, государство признаёт возможность смертной казни, причём не нескольких отдельно взятых человек, а большого количества людей, вплоть до всех живущих.

К сожалению, человечество пока ведёт себя по отношению к оружию как малое дитя с опасной игрушкой. Неизвестно, когда оно вырастет и поумнеет, поэтому нужно как можно скорее сделать эту игрушку недосягаемой для него.

Но человечество не сможет жить без новой ‘игрушки’, желательно дать ему благородную идею, которая поглотила бы все его силы. В качестве такой идеи Н.Ф. Фёдоров предлагает идею “общего дела”. Это дело – борьба со смертью: «Препятствия к построению нравственного общества заключаются в том, что нет дела настолько обширного, чтобы поглотить все силы людей, которые в настоящее время расходуются на вражду… И если бы вменить войскам в обязанность все применяемое ныне к войне применять также и к управлению силами природы, в таком случае военное дело само собою обратилось бы в общее дело всего человеческого рода».[14]

Молекулярные нанотехнологии, которые могут убить цивилизацию, с другой стороны обладают большим потенциалом созидания, чем разрушения. В этом их отличие, скажем, от ядерной энергии, неудержимая мощь которой гораздо больше подходит для разрушения. В этом смысле прорыв человека в микромир очень похож на изобретение колеса, которое имеет гораздо большее применение в мирных целях, чем при создании оружия, где оно обычно работает лишь косвенно.

Выход из-под контроля молекулярных систем.

Будем надеяться, что до военного применения нанотехнологий дело не дойдёт. Тогда всё равно, остаётся опасность непредсказуемого поведения наносистем, их выхода из-под контроля человека. Сколько статей и рассказов было написано, где компьютер взбунтовался против человека. Но практика развития компьютерных систем показывает, что ничего подобного не происходит и не собирается происходить. Опасность такого рода возникнет только тогда, когда система осознает саму себя и у неё появятся собственные цели.

«Знаете, это древнее опасение: машина стала умнее человека и подмяла его под себя... Полсотни лет назад в Массачусетсе запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и все такое... И проработала эта машина ровно четыре минуты. Ее выключили, зацементировали все входы и выходы, отвели от нее энергию, заминировали и обнесли колючей проволокой. Самой настоящей ржавой колючей проволокой – хотите верьте, хотите нет.

- А в чем, собственно, дело?– спросил Банин.

- Она начала вести себя,– сказал Горбовский.

- Не понимаю.

- И я не понимаю, но ее едва успели выключить.

- А кто-нибудь понимает?

- Я говорил с одним из ее создателей. Он взял меня за плечо, посмотрел мне в глаза и произнес только: "Леонид, это было страшно"».[11] - так Стругацкие описывают зарождение искусственного интеллекта. Действительно в мощном компьютере процессы мышления могут протекать на много порядков быстрее, чем в человеческой голове. Имея собственные цели, собственную мораль и философские воззрения такой искусственный интеллект может представлять реальную угрозу человеку.

На современном этапе развития поведение компьютерных систем слишком жёстко ограничивается алгоритмическими программами. Кроме того, эти алгоритмы слабо связаны с окружающей средой, у компьютеров только сейчас появляется слух и зрение в виде микрофонов и видеокамер, а органов воздействия на окружающие предметы практически нет.

Развитие нанокомпьютеров неизбежно будет связано с созданием нейросетей, допускающих случайные отклики на внешние воздействия, и ростом взаимосвязи компьютер – внешний мир. Наряду с громадным ростом быстродействия и памяти в таких системах можно ожидать самозарождения сознания.

Но отказ выполнять волю человека может произойти не только из-за того, что наносистемы начнут проявлять свою волю, противостоящую воле человека, а из-за недостаточного понимания людьми последствий исполнения собственных желаний наносистемами. Человек не может предусмотреть всех последствий деятельности наносистем в силу их очень высокой сложности. Станислав Лем это образно описывает так: «По-видимому, когда в среде обитания появляются зачатки разума, когда этот разум пересаживают из голов в машины, а от машин, как некогда от мамонтов и примитивных рептилий, его унаследуют молекулы, и молекулы эти, совершенствуя новые поколения смышленых молекул, преодолеют так называемый порог Скварка, то есть плотность их интеллекта настолько превысит плотность человеческого мозга, что в песчинке поместится умственный потенциал не доцента какого-нибудь, а сотни факультетов вместе с их учеными советами,– тогда уже сам черт не поймет, кто кем управляет: люди шустрами или шустры людьми. И речь тут вовсе не о пресловутом бунте машин, не о восстаниях роботов, которыми давным-давно, когда в моде была футурология для масс, пугали нас недоучившиеся журналисты, но о процессе совершенно иного рода и иного значения. Шустры бунтуют в точности так же, как растущая в поле пшеница или микробы на агаровой пленке. Они исправно делают, что им поручено, но делают это все лучше и лучше и, в конце концов, начинают делать это так изумительно, как никому не пришло бы в голову в самом начале… И уж тем более никто не верил, что какие-то шустры получат превосходство над людьми – не угрозами и не силой, но так, как ученый совет, состоящий из дважды профессоров, превосходит мальца в коротких штанишках. Ему не понять их коллективной мудрости, как бы он ни старался. И даже если он принц и может приказывать совету, а совет добросовестно исполняет его капризы, все равно результаты разойдутся с его ребяческими ожиданиями,– например, захоти он летать. Разумеется, он будет летать, но не по-сказочному, как он, несомненно, себе представлял, не на ковре-самолете, но на чем-нибудь вроде аэроплана, воздушного шара или ракеты, поскольку даже наивысшая мудрость в силах осуществить только то, что возможно в реальном мире. И хотя мечты этого сопляка исполнятся, их исполнение каждый раз будет для него неожиданностью. Возможно, в конце концов, мудрецам удалось бы растолковать ему, почему они шли к цели не тем путем, который он им указал, ведь малыш подрастет и сможет у них учиться; но среда обитания, которая умнее своих обитателей, не может разъяснить им то, чего они не поймут, ведь они - скажем, наконец, прямо – слишком глупы для этого».[5]

Кроме самопроизвольного неподчинения систем в силу их воли или глупости человека существует ещё много возможностей отказа наносистемы выполнить волю человека. Части этих отказов можно, теоретически избежать, другой части нельзя избежать в принципе.

Системы наномашин кто-то будет проектировать. Разработка наносистем на начальном этапе требует огромных затрат труда. Естественно, люди, разработавшие наносистемы, могут предусмотреть в их программе подчинение лишь себе или покупателю, но отказ служить другим людям. Таким образом, мир может разделиться на две группы людей (фирм, компаний, государств). Одним наносистемы будут подчиняться, а другим не будут. Жажда власти может победить, несмотря на то, что наносистемы могут сделать бедных богатыми не отбирая богатство у богатых.

Лем о новом мире и создателях наносистем пишет: «Но если в этой перекроенной на новый лад гармонии что-то разладится, кто исправит ее? А так как кто-то должен ее к тому же запроектировать и запустить в производство, это лицо или группа лиц будут склонны самозванчески, явным или, что еще хуже, тайным образом взять себе роль Господа Бога в этом всепредставлении».[5]

Практически невозможно избежать неповиновения наносистемы, если желания нескольких человек взаимоисключают друг друга. В этом случае наносистема, исполняя приказ одного человека, не будет повиноваться другому. Например, один человек хочет нанести вред другому, а второй не хочет, чтобы ему нанесли вред или наоборот – человек хочет нанести себе вред (получая при этом удовольствие), а другой хочет оградить его от этой беды. Можно потребовать, чтобы наносистема в случае взаимоисключающих желаний разных людей выполняла то, которое приносит наименьший вред. Но, во-первых, как определить количественно величину вреда – понятия довольно относительного и связанного с моральными устоями общества? Во-вторых, технически очень сложно сделать так, чтобы наносистема определяла все последствия своих действий и оценивала совокупный вред, наносимый людям. В-третьих, не нанося вреда людям можно причинить большой вред животным и растениям.

В романе Станислава Лема предлагается другой способ ограничения действий наносистемы: «Во влажной почве зерно прорастает. Что оно, следит за температурой? Недоверчиво взвешивает перспективы роста? Раздумывает о погоде, прежде чем примет важное решение прорасти? Шустры ведут себя точно так же. Законы Природы – это прежде всего запреты: нельзя получать энергию из ничего, нельзя превзойти скорость света и так далее. Мы вмонтировали в окружающую нас Природу еще один запрет – охраняющий жизнь. И ничего больше».[5] При проектировании наносистем не нужно заботиться о том, чтобы они никому не нанесли вреда. Нужно сделать лишь так, чтобы наносистема всегда подчинялась любому человеку, если это не наносит заметного физического или информационного ущерба человеку. Желательно также ограничить физический ущерб, наносимый животным.

Но даже если когда-нибудь будут спроектированы наносистемы послушные человеку и не приносящие ему физического вреда, то контроль над ними по прежнему будет необходим, так как, эволюционируя, они могут придти к новому состоянию враждебности человеку: «Над нами властвует бездушная активность, привитая физике окружающего нас мира, и никто не докажет, что этот новый мир всегда будет благожелателен к нам – что его заботливые объятия через пять или сто лет не станут смертельными…»[5]

Человек будущего.

Допустим, что развитие нанотехнологий не приведёт к каким-либо смертельным катаклизмам и «чрез нас, через разумные существа, природа достигнет полноты самосознания и самоуправления, воссоздаст все разрушенное и разрушаемое по ее еще слепоте»[14]. Тогда “облагороженная” среда создаст крайне комфортные условия обитания человека, в которой будут выполняться практически любые его прихоти.

«Хотелось бы подчеркнуть, что нанотехнология – не только техника и улучшение жизни людей. В теперешнем мире – это во многом и политика. Основным социальным последствием применения нанотехнологий будет значительное увеличение свободы человека, его независимости, как от природных ограничений, так и от ограничений, которые ему пытаются навязать другие люди, чтобы получить больше свободы, благополучия и выгоды для себя (что является сущностью современного государства). Человек получит свободу во времени (то есть практическое бессмертие), его не будут ограничивать проблемы здоровья или физического несовершенства. Одним из следствий применения нанотехнологий будет локализация экономики – у каждого человека в распоряжении будет нечто вроде нанотехнологической "скатерти самобранки"… Это сделает человека экономически свободным, он будет работать не по принуждению, а исходя из своих духовных потребностей или для получения каких-нибудь дополнительных благ».[9]

Такое облагораживание, несомненно, накладывает определённые ограничения на поведение человека. Невозможными становятся действия, приносящие физический вред себе или другим людям. Кроме того, теряет смысл практически любая деятельность, ведь всё может сделать насыщенная нанотехнологическими системами среда, причём гораздо лучше человека. Люди теряют свободу испытывать трудности в борьбе за лучшее и оказываются в “золотой клетке”. Вряд ли каждый человек в такой среде обитания будет более счастлив, чем окружённый “слепой природой”.

«– Быть может,– начал лорд Рассел,– этим птичьим сынам и удалось соорудить так называемую этикосферу, но тем самым они изготовили индивидуальные тюрьмочки, великое множество невидимых смирительных рубашек. Любой достаточно мощный порыв к всеобщему счастью заканчивается строительством каталажек...

Настоящие дилеммы возникают перед философией лишь тогда, когда благоденствие приобретает устрашающие размеры. Коль скоро неприятностей должно быть все меньше, а радостей все больше, то с логической необходимостью оптимум совпадает с максимумом благ, свобод, утех и забав и с минимумом опасностей, болезней и вкалывания на службе. Минимум равен нулю, то есть: никакого труда, никаких болезней, никаких опасностей, а максимум расположен там, где сладостность жизни становится неисчерпаемой. Но этого максимума, установленного с такой точностью, никто не в состоянии выдержать. Где-то по дороге прогресс превращается в собственную противоположность, но где – никому не известно».[5]

Проблема в том, что удовлетворение всех потребностей человека и освобождение его от любого труда много людей сделают более несчастными, так как у них будет отобран смысл жизни. Свободный человек не захочет жить на всём готовом и ничего не делать. И беда не в том, что можно стать глупым или больным от такой жизни,– наносистемы, в принципе, могут поднять интеллект и знания человека, сделать его сильным и здоровым без каких-либо усилий с его стороны,– а в том, что большинство людей испытывают неудовлетворение, когда всё делается за них.