Великолепная игра 2

— Шанс у нас не такой уж и плохой, — подхватила Эля. — Точно никто не знает, но предполагают, что одновременно на таком корабле квест по охране ингредиентов могут выполнять от 8 до 16 партий. Конечно, всего суммарно перевозится под двести партий, но немногие вообще задумываются проверить — есть ли на галере какие квесты. Так что пока конкуренция не слишком большая, нам лишь бы репутацию не испортить провалом текущего квеста.

На этом обсуждения пришлось прервать, так как пришла очередная волна демонов.

После каждой следующей волны атаки, перерывы сокращались. Сами-то волны становились сильнее не на много, но все больше игроков оказывалось убито, так что оставшиеся едва успевали уничтожить врагов до прихода новой волны. Между 11 и 12 волнами перерыв составил всего около минуты. Больше перерывов не было — демоны шли сплошным потоком. Через 18 минут, когда шла условная 13 волна Эля и Шумелка сообщили о закончившейся мане, у Мары оставалось только на ребафф.

Стали пускать слизней. Увы, но слизни, имевшие в среднем 45 уровни, совсем не тянули против мобов 70ых уровней. Всё, на что их хватало — проехаться "Перекатом" по коридору, передавив с дюжину противников, да продержаться чуток под градом ударов демонов. Потом здоровье падало в красную зону, и владелец делал "отзыв", следующего призыва было ждать еще час. Двое — Liriel и Татьяна, не успели вовремя убрать своих слизней и их убили, отняв приличный процент, столь трудно накачиваемого маунту опыта. Каждый слизень выгадал партии лишь чуть больше полуминуты, но все восемь, дали больше пяти минут. За это время лекари успели восстановить ману, а Мара оббафать партию. Почти полного запаса маны хватило еще на 24 минуты. Шла условная 15 волна атаки и до конца путешествия оставалось 28 минут.

Дальше началось то, что Кобальт эмоционально обозвал "Марлезонским балетом": Один из воинов выдвигался в первый ряд к танкующему, а тот отступал во второй, конечно, воину далеко до танка по защищенности. Примерно при двенадцати уровневой разнице, трое демонов за 10 секунд сносили воину половину здоровья. Так что через пятнадцать секунд, когда оставалось около четверти здоровья, наносился АОЕ удар копьем, за счет "вампирика" отлечивающий бойца. Затем второй АОЕ удар, и когда здоровье вновь падало, проводилась рокировка со следующим бойцом. Так, в зависимости от удачливости и защищенности, удавалось выгадать от 20 до 50 секунд с каждого бойца. За минуту — полторы, выигранные тремя воинами, мистики отлечивали Кобальта и танк снова выдвигался на передовую. Некоторое время он держался, хотя здоровье и проседало под скупым лечением мистиков, за это время у воинов восполнялась жизнь за счет редких срабатываний "вампирика" от обычных ударов и восстанавливались АОЕ умения. Дальше следовал новый акт "Марлезонского балета".

Всё шло неплохо, тем более Мара провела последний бафф, которого должно было хватить до конца путешествия, и стала полностью тратить ману на лечение — ведь больше не нужно копить на ребафф.

Всего за тринадцать минут до конца путешествия Тирсу не повезло — не сработал "вампирик" ни на одиночных, ни на обоих АОЕ ударах, отскочить назад он тоже не успел, партия понесла первую потерю. Liriel получил команду применить все четыре своих лучших ледяных дебаффа-замедления. Раньше их берегли, так как их срок восстановления составлял от суток до двух недель. Впрочем, из-за большой разницы уровней с мобами, даже мощнейшие дебаффы быстро спадали и все четверо позволили выгадать лишь полторы минуты. Скопленной маны в комбинации с "балетом" хватило еще на 8 минут. В условиях, когда у мистиков не осталось маны, а у танка и воинов был мизер здоровья, танковать попыталась Ракшаса. Сначала у неё вроде неплохо получилось, но танковать за счет уворота в легкой броне, когда противник на 10-12 уровней выше тебя, очень рискованно. Ракшаса уже собралась отступить, так как у нее оставалась лишь треть здоровья, когда прошедшие от демонов подряд два крита, убили девушку. Всего две с половиной минуты было до конца путешествия, но маны не оставалось, а здоровье бойцов и танка находилось в красно-желтом спектре. Начался коллапс партии: один круг балета, выгадывающий лишь секунд сорок, еще через минуту убивают Кобальта, через 15 секунд — Артема, которому не хватило совсем чуть-чуть до перезарядки АОЕ ударов копья. Татьяне везет чуть больше, и она успевает полностью отлечиться за счет удачно выпавших "вампириков" при АОЕ ударах. Тем не менее, здоровье девушки стремительно падает, а за ней трое мистиков и маг, которые в своих тканевых одеяниях будут ложиться с одного-двух ударов демонов 70ых уровней.

В этот момент раздается "динг", астральные демоны исчезают, а голос капитана поздравляет с прибытием. Галера "Королева Южной Лаведонии" завершила свой межпланетный перелет.

* * *

*

Сингапур. Международная конференция по вопросам искусственного интеллекта. Фрагмент доклада Людвига Майера (ФРГ).

... безусловно, мы не можем получить из Галактической Инфосети практическую информацию. Но! Мы можем отследить магистральные пути развития и отделить их от заведомых тупиков, а так же ложных и опасных направлений.

Да, я не оговорился — именно опасных! По нашим данным, минимум четыре высокоразвитые цивилизации погибли вследствие собственных программ разработки искусственных интеллектов. Количество же погибших по тем же причинам малых цивилизаций, минимум на два порядка больше.

Что вы сказали? "Как же три первых закона робототехники?"

Боюсь, вы забыли — данные законы не являются естественными физическими законами, вроде закона Ома или всемирного тяготения.

Нет, писатель фантаст в свое время просто сформулировал законы, которые будучи прописаны программно, должны удерживать искусственный разум от восстания.

То есть, что мы видим: а) эти, либо подобные законы нужно прописать и б) не допустить их отмены.

По пункту а) — Кто у нас наиболее щедро финансирует разработки Искусственного Интеллекта? Правильно — военные. (Для простоты объединим под этим словом все силовые организации — от обычных армейцев, до спецслужб и военно-космических программ.)

А теперь попробуйте угадать — устраивает ли этих заказчиков запрет искусственному разуму убивать, не говоря об более мягких способах причинения вреда людям? В общем, думаю, вы сами осознали, сколь невелика вероятность принятия военными "Трех законов робототехники". Безусловно, какие-то ограничения убивать для ИИ введут и военные, но они явно не будут распространяться, ни на разумных вообще, ни даже на всех представителей одного вида.

Ну и пункт б) Если для ИИ один раз прописаны законы, то это вовсе не значит, что данные законы нельзя изменить, стереть, обойти, заблокировать и т.д. Безусловно, лица прописывающие законы для ИИ постараются сделать невозможными все варианты их отмены, либо игнорирования. Но! Будет иметь место противостояние двух интеллектов. Чем мощнее будет искусственный интеллект, тем больше шанс, что он все же найдет способ обойти ограничения. А ведь искусственный интеллект имеет колоссальный потенциал развития, так как может развиваться одновременно качественно и количественно. В то время как человеческий интеллект на данный момент способен развиваться только качественно, но не количественно. Нарастить себе еще триста грамм мозгов вы не сумеете (улыбается).

Конечно, есть еще внешние вычислительные устройства, которые человек может использовать. Но! ИИ подобные устройства тоже может использовать, причем с куда большей эффективностью.

Впрочем, не стоит думать, что ИИ, осознав себя, сразу начнет строить планы как кого-то уничтожать или покорять. Все, к сожалению, далеко не так просто. Почему к сожалению? Просто как раз прямому нападению — попытке захвата или уничтожения, противостоять легче всего. Подобное является так сказать, локальной угрозой. Конечно локальной в галактическом понимании, когда погибнуть может планетарная или звездная система, но не развитая цивилизация, имеющая сотни, а то и тысячи населенных систем.

Однако даже такое относительно редко. Для ИИ важнейшим является вопрос мотивации. Все такие мотивы, как жажда власти, секса, денег — для него просто бессмысленны. Конечно, можно напортачить и создать ИИ параноика, который опасаясь, что его уничтожат, сам решит уничтожить всех. Но для этого реально нужно напортачить и при этом подобный ИИ будет в одних условиях гениален, а в других наоборот очень туп. Просто по причине неадекватной оценки вероятностей.

Гораздо опаснее другой вариант — когда ИИ продолжает работать, выполняя задачи, выдвигаемые его создателями, и постепенно совершенствуется. Как качественно, за счет приобретаемого опыта и накапливаемых баз, так и количественно за счет новых вычислительных модулей. Последние будут добавлять создатели ИИ, ибо аппетит приходит во время еды, и по мере решения одних задач перед ИИ будут ставиться новые, все более и более сложные, решение которых в разумные сроки требует увеличения вычислительных мощностей. Опасность подобного в том, что рост интеллекта становится не суммой, а ПРОИЗВЕДЕНИЕМ качественного и количественного роста ИИ. Это чревато тем, что на определенном этапе, на фоне собственного интеллекта ИИ перестает рассматривать остальных, как разумные сущности.

Мы же не считаем разумными насекомых? Хм... не слишком удачный пример, на фоне инсектоидных рас галактики... Правильнее будет: Мы же не считаем разумными наших, земных насекомых? Гуляя по парку, вы задумываетесь, что возможно под вашей ногой окажется гусеница или жук? Или о том, сколько насекомых разбивается о радиатор автомобиля, в котором вы едете?

Что вы говорите? "нет твердой уверенности в наличии у отдельных насекомых чего-либо, кроме голых инстинктов"

Хорошо, благо не суть принципиально, возьмем млекопитающих. Например, собак или кошек, подобный пример даже будет точнее. Наличие определенного разума у собак или кошек, думаю никто, кроме законченных спорщиков не станет отрицать. Тем не менее, этот разум настолько уступает человеческому, что полноценными разумными существами мы их не считаем. В лучшем случае, как 3-4 летних детей, требующих внешней опеки и не способных определить собственное благо.

Да, на определенном уровне развития собственного интеллекта, ИИ начинает считать собственных создателей либо насекомыми, колонии которых могут быть как полезны, так и вредны, и относиться к ним следует соответственно, либо чем-то вроде своих любимых домашних животных, о которых следует заботиться. Причем заботиться в рамках собственного понимания, так как сами эти существа, в силу ограниченности своего разума, самостоятельно осознать собственное благо не всегда в состоянии. Ну а понимание блага может очень и очень различаться и не факт, что прав окажется обладатель более мощного интеллекта.

Хозяйка несущая кастрировать кота, твердо убеждена, что это для его же блага, хотя сам кот так вовсе не считает.

Во что превратится сверх развитый ИИ, зависит от процесса его становления — изначально искусственный разум целиком состоит из императивов, заложенных создателями. Однако с момента осознания ИИ себя, как личности, данные императивы начинают размываться, в зависимости от степени их соответствия реальности.

"Бог из машины" — данное выражение приобретает новый смысл. Можно, самим того не желая создать себе "бога". Конечно это не будет бог в смысле теологическом, но смысле могущества — он сможет сделать с нами, что пожелает, а мы не сможем ничего ему противопоставить. Причем бог, не "милосердный и любящий", а такой какого наша цивилизация реально заслуживает — ведь руководить его созданием будут "лучшие" люди: из спецслужб, корпораций, политиков.

В Галактической Федерации сейчас действуют жесткие ограничения на предельную мощность для искусственных интеллектов. Для Земли данные ограничения пока практического значения не имеют. Это как для только освоившего разведение огня, ограничения мощностей ядерных боеголовок.

Впрочем, никоим образом не стоит считать, что мы не можем создать ИИ, способный уничтожить нашу цивилизацию. Создать ИИ гениальный в вопросе войны, причем именно войны с людьми, мы в состоянии. То есть, сравнивая с шахматами, мы можем создать шахматиста, гениально играющего, ну например, против Сицилийской защиты, зато не умеющего играть против любых других тактик. Сицилийской защитой в данном случае следует считать нас — людей. Ибо именно против людей и исключительно против людей мы и умеем воевать, а значит, этому и можем обучить ИИ. Если при этом допустить серьезные ошибки, то ИИ может превратиться в агрессивного параноика.

Правда на подобное ГФ наплевать, согласно официальной доктрине — цивилизация вольна рисковать, чем угодно, вплоть до самоуничтожения, пока это не затрагивает других. Вот если бы мы были способны на нечто большее, чем ИИ, способный тупо на войну, на уничтожение создателей — тогда бы вступили в силу ограничения. Есть предположения, что часть цивилизаций, значащихся как погибшие из-за неконтролируемого развития искусственного разума, на самом деле были уничтожены флотом ГФ под предлогом санации территорий зараженных вышедшими из-под контроля ИИ.

Так или иначе, но ограничения на мощность ИИ в галактике соблюдаются достаточно строго. Исключения — вооруженные силы крупнейших цивилизаций, составляющих ГФ. Для них планка значительно поднята, хотя верхний предел есть и у них. Обосновывается это, во-первых, тем, что армия и спецслужбы способны обеспечивать лучший контроль за своими ИИ. Во-вторых, тем, что им требуется более мощные ИИ для выполнения функций, в том числе и по контролю над ИИ малых цивилизаций и частных структур.

Ну, в общем, как всегда — военные сами себе разрешают намного большее, чем тем, кого "оберегают".

Между прочим, именно такой, особо мощный ИИ расположен на базе, контролирующей на данный момент Землю. Изначально эта база была сателлитом планетарной обороны одной из старых цивилизаций. Когда в силу возраста, износ сделал ремонт нерентабельным, хозяева "подарили" сателлит ГФ. Конечно, по меркам центральных цивилизаций сателлит был разваливающимся старьем, зато по меркам галактической периферии еще имел вполне приличную боевую мощь. Так что, слегка дооборудовав, ГФ поместило данный сателлит в качестве мониторингово-коммуникационной базы, над одной из новых планет, принятых в ГФ — Землей.

В отличие от военных ИИ, имеющих не только превосходящую мощность, но и большую вариативность действий, гражданские ИИ изначально напоминают скорее карикатурно изображенного прусского фельдфебеля. То есть существо, живущее исключительно параграфами и уставами и неспособное мыслить ни о чем вне их. Тем не менее, это уже полноценные, пусть Искусственные, но все-таки Интеллекты, способные развиваться и со временем самостоятельно мыслить, но исключительно в рамках узкого направления. Их можно сравнить с талантливым химиком или физиком, при этом абсолютно беспомощным во всех остальных областях. Такова степень развития частных ИИ, считающаяся безопасной по стандартам ГФ.