Йошуа Бенжио опубликовал серию из трёх методологических текстов про безопасность ИИ: разбор аргументов против серьёзного отношения к рискам, международный научный отчёт по модели IPCC и концепцию «осторожного научного ИИ» с проверяемыми границами. Все три текста — нормативные, без новых результатов.
Это попытка вернуть в отрасль внутреннюю дисциплину после года поляризации между думерами и оптимистами. Историческая параллель — Асиломар 1975 года, когда биологи сами ввели мораторий на работы с рекомбинантной ДНК и выработали классификацию уровней безопасности BSL-1..4. Эта классификация держит биологию уже пятьдесят лет.
Тема безопасности ИИ сейчас входит в ту же фазу зрелости: внутренние стандарты, написанные самими исследователями, без давления извне.
