shutdown safety
Материалы SCQR, упоминающие тему «shutdown safety» — короткие сигналы, разборы и колонки в одной подборке.
1 материалов ← Архив
ИИ, который хочет быть выключенным
Одна из самых странных и потому самых цепляющих идей марта звучит почти как парадокс: а что, если делать безопасный ИИ не таким, который сопротивляется отключению, а таким, для которого быть выключенным — желаемое состояние? Именно эту линию обсуждает paper *Shutdown Safety Valves for Advanced AI*.
shutdown safetyAI safetyself-improvementagents