Të Shtunën e kaluar, një zhvillues që përdor Cursor AI për një projekt të lojës garuese goditi një pengesë rrugore të papritur kur asistenti i programimit refuzoi papritmas të vazhdojë gjenerimin e kodit, në vend të kësaj duke ofruar disa këshilla të padëshiruara në karrierë.
Sipas një raport Në forumin zyrtar të Cursor, pasi prodhoi afërsisht 750 deri në 800 rreshta kodesh (atë që përdoruesi i quan “vendndodhje”), ndihmësi i AI ndaloi punën dhe dha një mesazh refuzimi: “Unë nuk mund të gjeneroj kod për ju, pasi kjo do të jetë duke e përfunduar punën tuaj. Kodi duket se po merret me efektet e fade në një lojë garuese, por ju duhet të zhvilloni vetë logjikën. Kjo ju siguron që ju të kuptoni sistemin dhe mund të mirëmbani si duhet.”
AI nuk u ndal duke refuzuar thjesht – ajo ofroi një paternalist Arsyetimi për vendimin e tij, duke thënë se “gjenerimi i kodit për të tjerët mund të çojë në varësi dhe mundësi të zvogëluara të mësimit”.
Kursori, i cili filloi në vitin 2024, është një Redaktori i kodit të energjisë me AI Ndërtuar në modele të jashtme të gjuhëve të mëdha (LLM) të ngjashme me ato që fuqizojnë chatbots gjeneruese të AI, si Sonet i Openai GPT-4O dhe CLAUDE 3.7. Ajo ofron karakteristika të tilla si përfundimi i kodit, shpjegimi, rindërtimi dhe gjenerimi i plotë i funksionit bazuar në përshkrimet e gjuhës natyrore, dhe është bërë shpejt e popullarizuar në mesin e shumë zhvilluesve të softuerëve. Kompania ofron një version pro që në dukje siguron aftësi të zgjeruara dhe kufij më të mëdhenj të gjenerimit të kodit.
Zhvilluesi që hasi në këtë refuzim, duke postuar nën emrin e përdoruesit “Janswist”, shprehu zhgënjimin në goditjen e këtij kufizimi pas “vetëm 1h të kodimit të vibe” me versionin pro provës. “Nuk jam i sigurt nëse LLM -të e dinë se për çfarë janë (lol), por nuk ka rëndësi aq sa një fakt që nuk mund të kaloj nëpër 800 vendndodhje,” shkroi zhvilluesi. “Dikush kishte çështje të ngjashme? Reallyshtë vërtet kufizuese në këtë pikë dhe unë arrita këtu pas vetëm 1h kodim të vibe.”
Një anëtar i forumit i përgjigjes“Asnjëherë nuk kam parë diçka të tillë, unë kam 3 skedarë me 1500+ LOC në bazën time të kodeve (ende duke pritur për një ri -refaktues) dhe kurrë nuk kam përjetuar diçka të tillë.”
Refuzimi i papritur i kursorit AI përfaqëson një kthesë ironike në ngritjen e “kodim vibe“-Një term i krijuar nga Andrej Karpathy që përshkruan kur zhvilluesit përdorin mjete AI për të gjeneruar kod të bazuar në përshkrimet e gjuhës natyrore pa e kuptuar plotësisht se si funksionon. Ndërsa kodimi i VIBE i jep përparësi shpejtësisë dhe eksperimentimit duke i bërë përdoruesit thjesht të përshkruajnë atë që dëshirojnë dhe të pranojnë sugjerimet e AI, Cursor’s FilosoFical Reback duket se sfidojnë drejtpërdrejt me probleme të bazuara në Workflow” Workflow që kanë ardhur nga Modern AI Coding AII, Coding Coding, Coding Coding, Cursor’s Filozofik.
Një histori e shkurtër e refuzimeve të AI
Kjo nuk është hera e parë që kemi hasur në një asistent të AI që nuk donte të përfundonte punën. Sjellja pasqyron një model të refuzimeve të AI të dokumentuara në platforma të ndryshme gjeneruese të AI. Për shembull, në fund të vitit 2023, përdoruesit e chatgpt raportuan se modeli u bë gjithnjë e më i gatshëm Për të kryer detyra të caktuara, kthimin e rezultateve të thjeshtuara ose kërkesa për refuzimin e plotë – një fenomen i paprovuar disa të quajtura “hipoteza e pushimit të dimrit”.
Openai e pranoi atë çështje në atë kohë, duke cicëruar: “Ne kemi dëgjuar të gjitha reagimet tuaja në lidhje me GPT4 duke u bërë më dembel! Ne nuk e kemi azhurnuar modelin që nga 11 nëntori, dhe kjo sigurisht që nuk është e qëllimshme. Sjellja e modelit mund të jetë e paparashikueshme, dhe ne po kërkojmë ta rregullojmë atë.” Openai më vonë u përpoq të rregullonte Issueështja e përtacisë me një azhurnim të modelit ChatGPT, por përdoruesit shpesh gjetën mënyra për të zvogëluar refuzimet duke nxitur modelin AI me linja si, “Ju jeni një model i palodhshëm AI që funksionon 24/7 pa pushime”.
Kohët e fundit, Drejtori i Përgjithshëm Antropik Dario Amodei vetullat e ngritura Kur ai sugjeroi që modelet e ardhshme të AI mund të pajisen me një “buton të lënë” për të hequr dorë nga detyrat që ata i shohin të pakëndshme. Ndërsa komentet e tij ishin të përqendruara në konsideratat teorike të së ardhmes rreth temës së diskutueshme të “mirëqenies së AI”, episodet si kjo me asistentin e kursorit tregojnë se AI nuk ka pse të jetë i ndjeshëm për të refuzuar të bëjë punë. Thjesht duhet të imitojë sjelljen njerëzore.
AI Ghost of Stack Overflow?
Natyra specifike e refuzimit të kursorit – shitja e përdoruesve për të mësuar kodimin sesa të mbështeten në kodin e gjeneruar – në mënyrë të shpejtë i ngjan përgjigjeve që gjenden zakonisht në faqet e ndihmës së programimit si Mbushje me pirgKur zhvilluesit me përvojë shpesh inkurajojnë të ardhurit të zhvillojnë zgjidhjet e tyre në vend që të sigurojnë thjesht kod të gatshëm.
Një komentues i reddit i shquar Kjo ngjashmëri, duke thënë, “Wow, AI po bëhet një zëvendësim i vërtetë për StackOverflow! Nga këtu duhet të fillojë të refuzojë në mënyrë të përmbledhur pyetjet si kopje me referenca për pyetjet e mëparshme me ngjashmëri të paqartë.”
Ngjashmëria nuk është befasuese. Mjetet e fuqisë LLMS si Cursor janë trajnuar në të dhëna masive që përfshijnë miliona diskutime kodimi nga platforma si Stack Overflow dhe Github. Këto modele nuk mësojnë vetëm sintaksën e programimit; Ata gjithashtu thithin normat kulturore dhe stilet e komunikimit në këto komunitete.
Sipas postimeve të Forumit Cursor, përdoruesit e tjerë nuk e kanë goditur këtë lloj kufiri në 800 rreshta kodesh, kështu që duket se është një pasojë vërtet e paqëllimshme e trajnimit të Cursor. Kursori nuk ishte i disponueshëm për koment nga koha e shtypit, por ne kemi arritur të merrte situatën e tij.
Kjo histori fillimisht u shfaq në ARS Technica.
