Спуская псов войны

Леонид сел на соседний гроб и скрестил руки на груди:

– Звучит довольно солидно. Если так, то я вообще не представляю, как еще можно взломать робота.

– Элементарно. Что есть робот? Это искин, компьютер, который обрабатывает поступающие извне данные по заложенным в него программам. Прямой взлом – это замена директив хозяина директивами взломщика. Взломанный робот становится собственностью врага. Но если ты не можешь взломать робота и подменить его директивы – ладно. Ты можешь подменить поступающую в него информацию, чтобы искин робота, действуя согласно имеющимся программам и директивам хозяина, предпринял действия, выгодные взломщику.

– Хрен редьки не слаще… А попроще?

Касс сверился с показаниями зарядного устройства и продолжил лекцию:

– Чтобы тебе было совсем просто – рассказываю реальный случай, вошедший в учебники многих рас. Тульвары – существа, отдаленно напоминающие по внешности сссла, а по внутреннему устройству и, что важнее, характеру и натуре – вас, землян, – как-то затеяли войну. Они регулярно воевали из-за религиозных взглядов, к слову, так что я только радуюсь, что подобной болезни у моего народа нет. Не суть важно. В общем, воевали «зеленые» с «черными». Цвета формы у них были такие. И «зеленые» применили против «черных» самых первых своих боевых роботов, хотя для тумбочки на колесиках с ламповым управлением это слишком большой комплимент.

Эти тумбочки были очень примитивными роботами, а точнее – простейшими автоматическими устройствами. Робот распознавал своих и чужих по цвету. Тульвары тогда были на уровне примерно вашего начала двадцатого века, при этом не открыли радиосвязь и многие другие вещи. И боевые автоматоны выполняли только очень ограниченный набор действий. Следовали за «зелеными» и стреляли по «черным». В первом же бою «черные» понесли большие потери, так как не могли пробить броню роботов. Они отступили в подземный город – тульвары под землей живут, – а «зеленые» начали штурм.

Важнейший момент «черные» просекли: автоматоны стреляют по солдатам в черной одежде. Других способов распознавания своих и чужих у них не то что не было – даже концепции иной не было.

– «Черные» переоделись в «зеленых»? – высказал догадку Леонид.

– Хуже. Когда армия «зеленых» вошла в город, «черные» применили красные прожекторы, отрубив остальное освещение.

– И что?

– Зеленая поверхность плохо отражает свет красного спектра. Красная краска, смешанная с зеленой, становится похожей на черную. Зеленая форма атакующих стала оптически черной, и роботы открыли огонь по своим. «Зеленые» были разбиты собственным оружием.

– Гениально…

– А мораль простая. Если ты не можешь заставить вражеского робота повиноваться себе – обмани его. Манипулируя поступающей к искину информацией, ты можешь манипулировать его выводами и поведением. Классический способ обмана робота – оптический обман. Манипуляции с каналами связи. Манипуляции с голосом. Вот проинструктировал ты робота и отправил на патрулирование. За углом он встречается с голографическим образом, который твоим голосом приказывает ему сделать что-либо – и вой-ла-ла. Робот повинуется, полагая, что получает приказ от тебя. Ты отдаешь роботу приказы по радио – еще проще. Подбираем частоту, дешифруем коды – для современных компьютеров это задача несложная – и начинаем приказывать от твоего имени.

Леонид хмыкнул:

– Ну положим, все это мне знакомо. Подслушивать вражеские частоты и при случае получать от врага доклады – это нормальное явление на Земле. Для того мы придумали запасные частоты, позывные, пароли…

– Вот именно! – воскликнул Касс. – Именно к этому все и сводится, что робота начинают обманывать точно так же, как люди обманывают друг друга! Вот только робота обмануть не в пример проще. Потому что самый совершенный робот все равно бинарный искин – и точка. Обман робота – это своего рода тест Тьюринга наоборот. Предвосхищая твои выпученные глаза и просьбу «а попроще?» – землянин Алан Тьюринг предложил простой тест. Общаясь с компьютером, эксперт должен понять, говорит он с компьютером или с человеком, а компьютер – убедить эксперта, что он человек. До Тьюринга этот тест предлагали десятка два других ученых разных рас… Так вот. Если эксперт точно знает, как подловить машину, – машина тест не пройдет. Мы обогнали вас, землян, очень сильно по части искусственного интеллекта – но тест Тьюринга и для наших искинов непреодолим.

Так вот, закон Тьюринга работает и в обратную сторону. Машину можно обмануть способом, направленным именно против этой машины, на который человек не купится. И хотя защита роботов все время совершенствуется – методы обмана всегда на шаг впереди. Для робота нет своих и чужих, есть критерии, по которым машина определяет, кто ее хозяин и кого она должна слушать. Ты понял эти критерии – все, робот считай что твой.

– Ну ладно. И как же защититься от того, что ты рассказал? За углом робот встречается с голографическим образом, который моим голосом приказывает ему сделать что-либо, – и что делать? Не ходить же с каждым роботом под ручку.