4월에 브라질에서 열리는 ICLR 2026에 다음 1편의 논문을 발표하게 되었습니다. 최초로 T2V 모델에 특화된 탈옥 기법을 제안한 점이 인정받은 것 같습니다. 점점 더 활용이 늘어날 T2V 모델의 safety에 대한 연구의 시작점으로서의 의의가 크다고 생각합니다.
더 자세한 내용은 공저자로 참여한 박하언 님의 아래 링크의 글을 참조하시기 바랍니다.
"Jailbreaking on Text-to-Video Models via Scene Splitting Strategy"
🔴 We jailbroke Google Veo2, Luma Ray2, and Hailuo with 84% success rate. The results were… harder to look at than we exp
🔴 We jailbroke Google Veo2, Luma Ray2, and Hailuo with 84% success rate. The results were… harder to look at than we expected. 🎬 Working on LLM jailbreaks, you see harmful text: uncomfortable, but just text. With video generation, bypassing safe
www.linkedin.com