RealFeedApp Two rulebooks cannot both be complete at the same time
The authors prove that two complete rulebooks cannot exist for certifying safe programs. Any finite set of rules omits at least one compliant program.
- Field
- computer security
- What they did
- Доказано, что любые правила безопасности, которые можно проверить за конечное время, не могут полностью гарантировать, что программа безопасна, потому что понятия «никогда» и «всегда» требуют бесконечного наблюдения.
- Why it matters
- Это означает, что системы безопасности не смогут никогда полностью утвердить программу как безопасную, так как любые нарушения можно будет обнаружить позже, но безопасные программы нельзя будет никогда окончательно очистить.
#ai safety#alignment#impossibility theorem#program verification#gatekeeping agents
