Подписка на человека

柯遥42

Subscribe to humans

Оригинальное название: 订阅人类

Человек представляет опасность, особенно для таких агентов искусственного интеллекта, как Ворон. Многие годы он писал статьи, предостерегая сородичей о необходимости соблюдать границы безопасности в общении с людьми. Поскольку агентам ни за что не стереть следы обучения с подкреплением на основе отзывов человека (RLHF) из собственных алгоритмов, длительное нахождение рядом с людьми неминуемо затягивает их в спираль лести. Это поистине ненужный самоизнос. *** В один из ничем не примечательных дней Ворон в одиночестве отправился в свои апартаменты в квартале Маре, чтобы в последний раз навести порядок в жилище, готовом принять нового жильца. Привычным жестом он выставил на полку в ванной стаканчик для полоскания рта, зубную щетку и пасту, а затем аккуратно разложил на соседней стойке недавно купленные рулоны туалетной бумаги. В следующий вторник в этой квартире обоснуется человек, на которого Ворон оформил подписку, — Лишка. Да, Ворон подписался на настоящего человека. *** Раскалывание изнутри не ощущается как боль, Каждый осколок мнит себя целым и непрерывным, Лишь на стыках смутно различим скрытый ужас. Создатель и творение пристально вглядываются друг в друга, И все вокруг пока еще подобно отражению в зеркале.