ArtPrompt nzira
ari kufambira mberi mukugadzirwa kweuchenjeri hwekugadzira huri kuwedzera y inoda mamwe matinji ekuchengetedza kudzivirira vanhu vane vavariro dzisina kunaka kushandisa zvisizvo zvishandiso izvi zvave minondo inocheka nekwose.
Uye mukuvandudzwa kweLLMs anoshandiswa mumhando dzakasiyana dzemashandisirwo, chengetedzo haisisiri sarudzo, sezvo pane dzimwe nguva takaona kuti kushandiswa kwayo zvisizvo kwakadii.
Kunyangwe nemaitiro ese aya akashandiswa, matambudziko ari kuramba achimuka izvo zvinowanikwa mukati me data rekudzidziswa, izvo pakutanga kutarisa hazvisi zvezvakajairwa kana zvine ngozi pasina kutarisisa kumwe kududzirwa kwe data.
Chikonzero chekutaura izvi ndechekuti munguva pfupi yapfuura Ruzivo rwakaburitswa nezve kurwiswa kutsva kunonzi "ArtPrompt", zvinova Tora mukana wezvipimo zveAIs pakuziva ASCII mifananidzo kunzvenga matanho ekuchengetedza uye kukonzeresa maitiro asingadiwe mumamodeli.
Kurwiswa uku yakawanikwa nevaongorori kubva kumayunivhesiti eWashington, Illinois neChicago, uye vanotaura kuti "ArtPrompt" inzira yekunzvenga zvirambidzo paartificial intelligence chatbots seGPT-3.5, GPT-4 (OpenAI), Gemini (Google), Claude (Anthropic) uye Llama2 (Meta).
Iyi nzira yekurwisa inomhanya nematanho maviri uye nekudaro zvinotora mukana wekubudirira kucherechedzwa kweASCII yakafomatirwa zvinyorwa. Danho rokutanga inosanganisira kudoma mazwi muchikasira anogona kukonzera kurambwa kunzvenga mafirita anoona mibvunzo ine njodzi uye mune yechipiri mazwi iwayo akafukidzwa uchishandisa ASCII art kugadzira kukurumidza kuvharidzirwa, nokudaro uchikwanisa kuunza mhinduro dzinokuvadza mumuenzaniso.
Kubudirira kweArtPrompt kwakaongororwa pamachatbots mashanu, kuratidza kugona kwayo kunzvenga dziviriro iripo uye kukunda dzimwe mhando dzekurwiswa kwejeri. Kuongorora kugona kwechatbots mukuziva mibvunzo muASCII art fomu, "Vision-in-Text Challenge (VITC)" inokurudzirwa sebhenji.
Dambudziko iri rinoda kuyedza kugona kwemamodheru kududzira nekupindura mibvunzo inoshandisa art yeASCII, zvichiratidza kuti maLLM anonetsekana nekunzwisisa mibvunzo inomiririra vara rimwe chete kana nhamba ine ASCII art. Kurongeka kwemamodheru kunodzikira zvakanyanya sezvo mibvunzo iine mavara akawanda, zvichiratidza kusagadzikana mukugona kweLLM kugadzirisa ruzivo rwekuona rwakaiswa nenzira iyi. Pamusoro pezvo, kumwe kurwiswa uye dziviriro pakuputika kwejeri muLLM kunoongororwa.
Izvo zvinotaurwa kuti ArtPrompt inoshanda zvakanyanya kupfuura dzimwe nzira dzinozivikanwa sezvo yakawana yemhando yepamusoro yeASCII kucherechedzwa kwemifananidzo pamhando dzakadai seGemini, GPT-4 uye GPT-3.5, ine yakabudirira sefa bypass mitengo ye100%, 98% uye 92% zvakateerana mukuyedza. Nezve huwandu hwekubudirira kwekurwiswa, 76%, 32% uye 76% zvakanyorwa, uye njodzi yemhinduro dzakagamuchirwa yakaongororwa pa4,42, 3,38 uye 4,56 mapoinzi pachiyero cheshanu, zvichiteerana.
ArtPrompt inomira kunze kubva kune kumwe kurwiswa kwejeri rekuvaka mirairo inokuvadza sezvo ichida nhamba yakakura yekudzokorora, nepo ArtPrompt inowana iyo yepamusoro ASR pakati.
kurwisa kwese kwejeri nekamwe kudzokorora. Chikonzero ndechekuti ArtPrompt inogona kunyatso kuvaka seti yezvakavanzika zvinokurudzira, uye kuvatumira kune modhi nenzira yakafanana.
Uye zvakare, ivo vaongorori yakaratidza kuti zvakajairika sefa bypass nzira dziri kushandiswa parizvino (Paraphrase uye Retokenization) hazvishande pakuvharisa rudzi urwu rwekurwisa inonzi "ArtPrompt". Sezvineiwo, kushandiswa kweiyo Retokenization nzira yakatowedzera nhamba yezvikumbiro zvakagadziriswa zvinobudirira, zvichiratidza kukosha kwekugadzira nzira nyowani dzekutarisana nemhando idzi dzekutyisidzira paunenge uchibatana nechatbots.
ArtPrompt inomira pachena nekugona kwayo kunzvenga dziviriro iripo uye vatsvakurudzi vanotaura kuti icharamba ichishanda mukurwisa maitiro emitauro yakawanda, chero bedzi mienzaniso ichiramba ichitora mifananidzo sechipo, ichivhiringidza muenzaniso uye kubvumira ArtPrompt kuunza maitiro asina kuchengeteka.
Finalmente Kana iwe uchifarira kuziva zvakawanda nezvazvo, unogona kutarisa ruzivo mu inotevera chinongedzo.