Kolem LLM (nevhodně dnes pojmenovaného AI) prostě nepůjde postavit ploty a zařídit, že "něco neudělá."
Z principu to jde vždycky nějak hijacknout, jde jen o to, kolik úsilí využijete.
Cpaní LLM všude fakt není dobrej nápad. Ani sami autoři modelů si nezvládají svoje systémy chránit.
Nepřekvapuje.
Tomáš Sobel
Jak hacknout IG profil? Prý to šlo několik týdnů docela jednoduše - stačilo pěkně poprosit, a Meta AI asistent vám docela často vyhověl a změnil mail daného účtu na váš. That's it. www.404media.co/hackers-simp...
The exploit shows the extreme risk of offloading technical support to AI.
