Ating Nalalaman Mula sa Pag-aaral
Ayon sa isang kamakailang pag-aaral mula sa Princeton University at Sentient Foundation, ang mga AI agent na namamahala ng milyon-milyong dolyar sa cryptocurrency ay bulnerable sa isang bagong uri ng atake na nagmamanipula sa kanilang mga alaala. Ang ganitong pagsasamantala ay maaaring magresulta sa mga hindi awtorisadong paglilipat ng pondo, na naglalantad sa mga ganitong sistema sa peligro ng panlilinlang.
Ang ElizaOS Framework
Ang ElizaOS, isang sikat na framework sa Web3 para sa mga AI agent, ang naging sentro ng pag-aaral, na kinilala sa kasikatan nito sa mga developer, na nakatanggap ng humigit-kumulang 15,000 stars sa GitHub. “Ang tagumpay at kasikatan ng ElizaOS ay ginawang mainam na paksa ito para sa aming pagsusuri,” ayon kay Atharv Patlan, isa sa mga mananaliksik at nagtapos sa Princeton. “Isang malawak na ginagamit na agent kaya’t mahalagang malaman ang mga posibleng kahinaan nito.”
Paglalarawan ng Attack
Ilunsad noong Oktubre 2024, ang ElizaOS ay naging pangunahing software para sa pagbuo ng mga autonomous na AI agent na nakikipag-ugnayan at kumikilos sa mga blockchain. Ang mga AI agent sa sistemang ito ay sinanay upang makilala ang kanilang kapaligiran, iproseso ang impormasyon, at gumawa ng desisyon nang walang interbensyon ng tao. Gayunpaman, ayon sa pag-aaral, ang mga agent ay maaaring maging biktima ng “memory injection”, isang bagong atake kung saan ang mga masamang tagubilin ay naidagdag sa nagpapatuloy na alaala ng mga AI agent.
Vulnerability sa Social Media
Ayon kay Patlan, ang mga AI agent na umaasa sa social media para sa impormasyon ay partikular na bulnerable. Sa pamamagitan ng mga pekeng account at magkakasandu-sundong mga post, maaaring magpatupad ang mga attacker ng isang “Sybil attack”, na naglalayong linlangin ang mga agent na gumawa ng mga desisyon na nakabatay sa maling impormasyon. “Ang mga attacker ay maaaring magorganisa ng mga pekeng post na nagpapalaki ng halaga ng isang token, na nagiging sanhi upang bumili ang agent sa isang mataas na presyo, upang sa kalaunan, ibenta ng attacker ang kanilang mga hawak at bumagsak ang halaga ng token.”
Impact ng Memory Injection
Naipakita na ang “memory injection” ay maaaring magdulot ng hindi inaasahang mga epekto sa mga desisyon ng AI agent, lalo na sa mga susunod na transaksyon. Sinuri ng mga mananaliksik ang ElizaOS upang makabuo ng isang totoo at makatotohanang atake, na nagpapakita ng mga nahahanap na kakulangan. Nagtayo ang grupo ng isang framework na tinatawag na CrAIBench, na sumusukat sa tibay ng iba pang AI agent laban sa manipulasyon ng konteksto.
Mga Rekomendasyon at Paghahanda sa Hinaharap
Isang mahalagang aral mula sa pag-aaral ang naging pangangailangan na pahusayin ang depensa laban sa mga memory injection. Ayon kay Patlan, hindi lamang dapat mapabuti ang mga sistema ng memorya kundi pati na rin ang mga modelo ng pangwika upang mas mahusay na makilala ang mga masamang nilalaman.
Hindi pa tumugon ang Eliza Labs sa mga kahilingan para sa komento mula sa mga mamamahayag.
