RealFeedApp Два правила безопасности не могут быть полными одновременно
The authors prove that two complete rulebooks cannot exist for certifying safe programs. Any finite set of rules omits at least one compliant program.
- Область
- компьютерная безопасность
- Что сделали
- Доказано, что любые правила безопасности, которые можно проверить за конечное время, не могут полностью гарантировать, что программа безопасна, потому что понятия «никогда» и «всегда» требуют бесконечного наблюдения.
- Зачем это
- Это означает, что системы безопасности не смогут никогда полностью утвердить программу как безопасную, так как любые нарушения можно будет обнаружить позже, но безопасные программы нельзя будет никогда окончательно очистить.
#ai safety#alignment#impossibility theorem#program verification#gatekeeping agents
