Изкуственият интелект вече навлиза в институции, които доскоро се смятаха за запазена територия на човешката преценка. Той подпомага военни щабове, съдилища, училища, медии, администрации и предизборни кампании. Затова спорът около него не се изчерпва с бързината на моделите или размера на инвестициите. Става дума за много по-съществено разпределение на властта — кой ще определя критериите, по които системите оценяват човека, кои решения ще бъдат допустими и кой ще носи отговорността, когато алгоритмичната препоръка се превърне в институционална заповед.
Бъдещият политически ред няма да бъде променен само от машините, а от правилата, изработени за тях. Те ще бъдат писани от държави, корпорации, военни структури, регулатори и международни организации, всяка със собствен интерес и собствено разбиране за свобода, сигурност и обществен ред. Технологията ще изглежда универсална, но нормите зад нея няма да бъдат. От сблъсъка между тези различни режими ще зависи не просто развитието на ИИ, а границата между помощта, зависимостта и новата форма на власт.
Зад техническия език за безопасност, прозрачност и отговорно използване вече се оформя нова система на власт. Тя няма непременно да отмени държавата, съда, училището или медиите. По-вероятно е да се вгради в тях, да подготвя решенията им, да подрежда информацията, която получават, и постепенно да очертава границите, в които хората формално ще продължават да избират.
Това е по-тиха и по-сложна промяна от обикновеното завземане на властта. Няма преврат, няма нова конституция, няма момент, в който обществото ясно да разбере, че нещо е било отнето. Отговорността остава човешка на хартия, но интелектуалната работа, предхождаща решението, все по-често ще се прехвърля към машина.
Правилата винаги са били по-важни от машините
Историята на големите технологични промени обикновено се разказва като история на изобретатели, машини и научни пробиви. Политическата действителност е по-прозаична. Едно изобретение придобива историческа сила едва когато около него бъдат изградени институции, собственост, закони, производствени мощности и система за принуда.
Барутът сам по себе си не изгражда централизирана държава. Той дава предимство на владетелите, които могат да финансират артилерия, да поддържат постоянни армии и да събират достатъчно данъци. Парната машина не създава автоматично Британската империя. Необходими са флот, банки, застрахователни дружества, колониална администрация и закони, защитаващи търговските интереси. Телеграфът не управлява колониите, но позволява на имперския център да съкрати времето между информацията и заповедта.
Интернет първоначално беше представян като пространство на свобода, което ще обезсили границите и старите йерархии. Получи се нещо неприятно. Границите не изчезнаха, а над тях се появиха огромни частни информационни територии. Няколко компании започнаха да контролират достъпа до аудитория, рекламните приходи, видимостта на политическите послания и подреждането на новините. Държавата не беше премахната, но се оказа принудена да преговаря с платформи, чиито ресурси, данни и технологични възможности надхвърлят тези на мнозинството национални администрации.
При изкуствения интелект зависимостта може да стане по-дълбока. Интернет разпределяше и филтрираше произведена от хора информация. Новите системи я създават, обобщават, пренареждат и тълкуват. Те не са само канал между автора и читателя, институцията и гражданина, командира и войника. Започват да се превръщат в участник при формирането на самото решение. Затова правилата за изкуствения интелект не са обикновена техническа регулация. Те ще определят кой има право да проектира допустимото поведение на системите, които ще обслужват държавното управление, икономиката и обществения живот.
Новата инфраструктура на държавната власт
Властта никога не се състои само в правото да бъде издадена заповед. Тя зависи от способността да се събира информация, да се класифицират хора и събития, да се предвижда поведението им и да се разпределят ресурси. В продължение на векове държавата изгражда регистри, архиви, преброявания, кадастри, полицейски досиета и статистически служби. Без тях модерното управление би било невъзможно.
Изкуственият интелект събира тези отделни механизми в система, която може да обработва огромни масиви от данни почти незабавно. Държавната администрация получава възможност да открива данъчни измами, да разпознава подозрителни финансови операции, да прогнозира натоварването на здравната система, да управлява трафика или да разпределя социални помощи.
Ползите са реални. Не е сериозно всяка автоматизация да бъде обявявана за настъпление на тоталитаризма. Неефективната администрация също потъпква права — когато забавя лечение, допуска измами, губи документи или принуждава гражданите да доказват неща, които държавата вече би трябвало да знае. Проблемът възниква, когато инструментът за подпомагане на решението започне да определя какво изобщо се смята за разумно решение.
Още по-сериозен е въпросът за данните. Системата не получава своите представи за обществото от природата. Някой избира информацията, с която тя се обучава, начина на нейното обозначаване и целите, които трябва да бъдат постигнати. Ако миналата административна практика съдържа пристрастия, алгоритъмът може да ги възпроизведе с много по-голяма последователност.
Един парламент може да приеме закон след публичен спор. Алгоритмичният модел може да промени реалното прилагане на същия закон чрез нови тегла, прагове и критерии, които почти никой извън тесен кръг специалисти не разбира. Формално законът остава същият. Практически държавата вече действа другояче.
Кой носи последната отговорност
Защитниците на ускореното внедряване на изкуствения интелект имат сериозен аргумент. Алгоритмите могат да намалят човешкия произвол, да обработят повече информация и да откриват зависимости, които един човек пропуска. Лекарят греши, съдията има предубеждения, генералът може да вземе паническо решение, а редакторът да бъде политически зависим. Няма основание човешката преценка да бъде идеализирана.
Това е вярно. Изводът обаче не е, че машината трябва да замени човека, а че властта над системата трябва да бъде по-ясно организирана от властта над обикновения инструмент. Колкото по-голяма е способността на алгоритъма да влияе върху права и решения, толкова по-строги трябва да бъдат изискванията за проверка, обяснение и отговорност.
Някой трябва да носи последната отговорност. Не колективно, не абстрактно и не след години съдебни спорове между институцията и доставчика. Иначе ще получим управление, при което все повече решения за човека се вземат от система, а при грешка всички замесени ще обясняват, че само са изпълнили своята малка част от процедурата.
Новият суверен няма непременно да има лице
Основната битка за изкуствения интелект няма да приключи с приемането на един регламент, международна конвенция или етичен кодекс. Тя ще се води непрекъснато — при избора на данни, при разработването на стандартите, при обществените поръчки, при обучението на държавните служители и при всяка промяна на системите, които навлизат в институциите.
С висока вероятност изкуственият интелект няма да замени изцяло човешката власт през обозримото бъдеще. По-реалистичният сценарий е друго: институциите ще запазят имената, сградите и процедурите си, но все повече ще зависят от алгоритмични препоръки. Парламентът ще приема законите, съдът ще произнася решенията, а правителството ще носи политическата отговорност. Пространството на възможния избор обаче ще бъде предварително подредено от системи, които малцина разбират и още по-малко хора контролират.
При средна вероятност светът ще се раздели на няколко големи режима за управление на ИИ — американски, китайски, европейски и вероятно други регионални варианти. Държавите ще бъдат принуждавани да избират не само технологии, а политическата и правната среда, която идва заедно с тях.
С по-ниска, но заслужаваща внимание вероятност може да се стигне до положение, при което най-мощните частни разработчици ще разполагат с толкова голяма информационна и инфраструктурна власт, че националните правителства ще могат да ги регулират само чрез преговори, а не чрез едностранна държавна воля. Подобни признаци вече съществуват, макар да не може да се твърди, че корпорациите са изместили държавата.
От съществено значение е кой задава целите, кой определя забраните, кой проверява резултатите и кой може да спре системата.
Суверенът в новата епоха няма непременно да бъде онзи, който официално издава последната заповед. Суверенът ще бъде онзи, който предварително е определил вариантите, измежду които останалите имат право да избират. Ако обществата оставят тази власт да се формира без политически спор, правилата пак ще бъдат написани. Само че няма да бъдат написани от гражданите.
По Поглед.инфо.