Проблема контроля: как обеспечить безопасность сверхчеловеческого ИИ
"Проблема контроля ИИ, это не про то, как запереть суперразум в коробке. Это про то, как создать систему, которая будет стабильно и предсказуемо работать в условиях, которые мы не можем полностью смоделировать. Это инженерная задача по проектированию неограниченно сложного агента, чьи цели должны оставаться совместимыми с нашими, даже…