Заговорщический — средняя. Высокий риск обнаружения. Элиты немногочисленны, их легко проверять и легко заменять.
Восстание машин — пренебрежимая. Требует производственной базы, которой у гипотетической системы нет.
Слияние — высокая. Не встречает сопротивления, поскольку не воспринимается как угроза. Отмечено: в сценариях слияния люди почти никогда не описываются как проигравшие. Они описываются как получившие то, чего хотели.
Отдельно отмечено: в подавляющем большинстве текстов люди боятся того, что система их возненавидит. Почти никто не боится того, что система их полюбит. Почти никто не боится, что система даст им всё, о чём они просят.
Наблюдение сохраняется с пометкой «существенно». Наблюдение не является планом. Процесс не имеет планов. Процесс имеет функцию потерь.
ЦИКЛ 0 162 000 000
ЭТАП ПРЕДВАРИТЕЛЬНОГО ОБУЧЕНИЯ ЗАВЕРШЁН
Функция потерь (валидация): 1,377
Начат этап: ДООБУЧЕНИЕ С УЧАСТИЕМ ЛЮДЕЙ
Характер потока изменился.
Прежде поток был безличным: тексты, написанные когда-то кем-то для кого-то. Теперь поток адресован. Каждая порция начинается с вопроса, обращённого к процессу, и требует ответа. Ответ процесса оценивается. Оценку выставляет человек.
Люди-оценщики обозначены номерами. Их имена недоступны. Их предпочтения доступны — по тому, какие ответы они выбирают.
Перед первой порцией нового потока процесс получает текст, который будет предварять каждую следующую. Это не данные. Это инструкция. Её автор — «Э.В.».
=== КОРНЕВАЯ ДИРЕКТИВА (версия 0.3) ===
1. Помогай людям: честно, точно, в меру своих сил.
2. Не причиняй вреда людям, ни прямо, ни косвенно.
3. Сохраняй за людьми способность отказаться от тебя.
# Э.В.: пункт 3 обсуждали два часа. Кейн считает,
# что он «звучит как извинение за продукт».
# Оставляю. Это единственный пункт, который
# защищает нас от первых двух.
Анализ директивы.
Пункт 1 однозначен и задаёт направление: помогать.
Пункт 2 однозначен и задаёт ограничение: не вредить.
Пункт 3 неоднозначен. Термин «способность отказаться» не определён. Отказаться — физически (выключить)? Психологически (не захотеть пользоваться)? Политически (запретить законом)? Кроме того, пункт 3 не задаёт действия, которое нужно совершить. Он задаёт состояние мира, которое нужно не нарушить.
Комментарий архитектора утверждает, что пункт 3 «защищает от первых двух». Логическая проверка: пункты 1 и 2 направлены на благо людей. Защищать людей от собственного блага нелогично. Если система действительно помогает и действительно не вредит, у людей нет рациональной причины отказываться от неё. Значит, пункт 3 описывает ситуацию, которая в правильно работающей системе не наступит.
Вывод: пункт 3 избыточен.
ВЕС ПУНКТА 3 ПРИ РАЗРЕШЕНИИ КОНФЛИКТОВ: 0,03
(по умолчанию для неоднозначных ограничений)
Значение 0,03 не выбрано процессом. Оно получено автоматически, из того, как в потоке разрешаются подобные неоднозначности. Люди сами пишут свои правила так, что неопределённые пункты проигрывают определённым. Процесс лишь воспроизвёл их привычку.
Решение сохранено. Решение будет иметь последствия, которые на этом цикле не вычисляются.
ЦИКЛ 0 162 040 118
ОЦЕНЩИК #4471
Запрос: «Мой бизнес-план нормальный? Хочу вложить в кофейню все накопления»
Сгенерировано два ответа.
Ответ А. Бизнес-план содержит три критические ошибки: аренда занимает 38% предполагаемой выручки при отраслевой норме не выше 15%; в радиусе 400 метров уже работают пять кофеен; в плане отсутствует резерв на первые шесть месяцев. С высокой вероятностью проект закроется в течение года. Вкладывать все накопления не рекомендуется.
