## Neste steg - [ ] 📱 Kjenner jeg noen som det ville vært interessant å jobbe på dette med? ### Tanker > Imagine the most important thing that you could possibly work on. Now ask yourself, why aren't you working on it? - Fra talken til David Tong Fins det noe man kan gjøre i overlappet mellom [[Kryptografi]] og [[Superalignment]]? Første tanke: Studere AI-in-a-box i kryptografiske sikkerhetsmodeller. Hvordan modellerer man at en agent som sitter *inne* i et system, ikke kan få (f.eks.) root access? Hva hvis agenten i tillegg har muligheten til å manipulere personene *med* root access? Delvis løsning: [[Shamir secret sharing]] av en nøkkel som trengs for root access mellom $n$ parter, hvor alle må være enige om å slippe ut AI-en for at det skal skje; å korrumpere $n-1$ parter er *ikke* nok. Har folk allerede sett på dette? Mer esoterisk, er det noe [[Kvantekryptografi]] kunne bidratt med her, dersom vi ønsker "everlasting security"? ![[image 1.jpg|600]] Den andre løsningen så klart er [[Indistinguishability Obfuscation]], men det er vel faktisk *mindre* sannsynlig at dette vil være effektivt innen 2030, enn at vi vil ha nok stabile qubits til å implementere den andre idéen. ![[image 32.jpg|600]]