Avbrottet av artificiell intelligens som ett cybersäkerhetsverktyg Mozilla har just tagit ett betydande steg framåt med samarbetet mellan Mozilla och Anthropic kring Firefox. På bara ett par veckor har en AI-modell kunnat lokalisera ett antal sårbarheter i Mozillas webbläsare med öppen källkod som normalt skulle kräva månader av specialiserat mänskligt arbete.
Detta experiment, med direkt inverkan på Firefox-användare i Spanien och resten av EuropaDet har tjänat som mätning av hur långt språkmodeller kan gå idag när det gäller att granska riktig kod, och vilken roll de kan spela för att skydda programvara som används av hundratals miljoner människor dagligen.
När AI blir den bästa säkerhetsrevisorn
Inom programvarusäkerhet är det avgörande att lokalisera en sårbarhet innan angripare gör det: det kan betyda skillnaden mellan skydda miljontals användare eller exponera deras dataI detta sammanhang har Mozilla testat en ovanlig metod: att låta en avancerad AI granska webbläsarens källkod för att hitta sårbarheter innan forskare eller cyberbrottslingar gör det.
Några veckor före lanseringen av firefox 148Webbläsarens säkerhetsteam fick en slående rapport: Antropiskt gränsrött lag —företagets interna offensiva forskningsgrupp— hävdade att de med hjälp av sin Claude-modell hade funnit, mer än ett dussin verifierbara säkerhetsbuggar i Firefox JavaScript-motor. Det här var inte bara misstankar, utan buggar som stöddes av konkreta bevis.
Det som skilde det från andra försök att använda AI inom detta område var rapporteringens kvalitet. Varje sårbarhet backades upp av minsta reproducerbara testfallDet var små kodbitar som kunde utlösa sårbarheten deterministiskt. Detta gjorde det möjligt för Mozillas ingenjörer att inom några timmar verifiera om problemet faktiskt existerade och börja arbeta med patchar utan att behöva lägga tid på att återskapa tvetydiga scenarier.
I ett ekosystem där många varningar som genereras av automatiserade verktyg hamnar i papperskorgen för att de är falska positiva resultat eller felaktiga rapporterAnthropics tillvägagångssätt minskade bruset drastiskt och gav en användbar signal: mindre volym, men validerade och handlingsbara resultat.
Vad är Anthropics Frontier Red Team och hur fungerar det med Claude?
Samtalet Gränsröda laget Det är Anthropics enhet som är dedikerad till att utforska gränserna för sina AI-modeller inom offensiv och defensiv säkerhet. Målet är inte bara att bedöma interna risker inom modellerna, utan också att undersöka Hur kan AI användas för att hitta sårbarheter i riktig programvara? innan illvilliga aktörer gör det.
Under de senaste månaderna har detta team visat att modeller som Claude Opus 4.6 kan springa flerstegsattacker på komplexa nätverk i kontrollerade miljöerDetta ger en uppfattning om deras analytiska förmåga. Samma kraft har omdirigerats, på ett samordnat och ansvarsfullt sätt, till att granska öppen källkodsprojekt som Firefox enligt ansvarsfulla processer för sårbarhetsrapportering.
I det specifika fallet med webbläsaren Mozilla började Anthropic med en testövning: man använde Claude för att reproducera historiska Firefox-sårbarheter (CVE:er)Vi kontrollerade om modellen kunde känna igen felmönster som redan dokumenterats i äldre versioner av koden. Resultatet var positivt, men med ett tydligt förbehåll: en del av den informationen kan finnas i modellens träningsdata.
För att gå vidare tog Frontier Red Team steget till den intressanta delen: att be AI:n att lokalisera nya sårbarheter i den nuvarande versionen av FirefoxDet vill säga buggar som ännu inte listades i någon offentlig databas eller i Mozillas interna spårningssystem.
Hur sårbarheterna i Firefox JavaScript-motor upptäcktes
Utgångspunkten var webbläsarens JavaScript-motor, en kritisk komponent eftersom den ansvarar för köra otillförlitlig extern kod från webbsidorAlla fel i detta lager kan i värsta fall bli en inkörsport för att attackera användarens system.
Som Anthropic och Mozilla har förklarat, Claude hittade sin första kritiska sårbarhet på ungefär tjugo minuter. från början av analysen. Det var ett misslyckande av den typen använd-efter-fri, en kategori av minnessårbarhet som kan göra det möjligt för en angripare att skriva över data med godtyckligt innehåll om den är kopplad till andra systemsvagheter.
Medan Anthropics ingenjörer validerade denna initiala varning i en virtuell maskin med den senaste webbläsarversionen, fortsatte AI:n att arbeta parallellt. Under den tiden hade modellen redan flaggat cirka 50 ytterligare ingångar med avvikande beteende, många av dem blev senare testfall som skickades till Mozilla.
Processen var inte begränsad till JavaScript-motorn. Under ungefär två veckor analyserade Claude nästan 6 000 C++-filer och tusentals ytterligare projektfilergenererade 112 unika rapporter. Av den uppsättningen bekräftades följande efter prioritering av Mozillas säkerhetsteam. 22 sårbarheter registrerade som CVE, varav 14 klassificerades som hög allvarlighetsgrad, utöver nästan 90 ytterligare fel som anses ha mindre inverkan eller enbart logiska fel.
Alla identifierade säkerhetsproblem åtgärdades under utvecklingscykeln för Firefox 148.Den här versionen är nu tillgänglig för användare i Europa och resten av världen. Buggar med lägre prioritet har också korrigerats, även om vissa justeringar har reserverats för senare versioner för att undvika att införa för många ändringar i en enda utgåva.
Mer än 100 buggar upptäckta och färre falska positiva resultat än andra AI:er
Under hela detta samarbete gav Claudes analys Mer än 100 olika Firefox-buggarÄven om inte alla visade sig vara sårbarheter som kunde utnyttjas, illustrerar volymen att även mogna och granskade projekt som webbläsaren Mozilla fortfarande kan dölja ett betydande antal buggar.
För att ge en uppfattning om effekten förklarade Mozillas säkerhetsteam att AI:n, bara under dessa två veckors testning, kunde Identifiera ett antal allvarliga brister motsvarande cirka 20 % av alla kritiska sårbarheter som patchas i webbläsaren under ett år.Med andra ord koncentrerades den AI-assisterade revisionen till dagar – en uppgift som vanligtvis är utspridd över många månader.
En viktig aspekt var andelen falskt positiva resultat. Många projekt med öppen källkod, inklusive de i Europa, har fått falskt positiva resultat de senaste åren. vågor av rapporter genererade av AI-verktyg av låg kvalitetDessa rapporter skickas ofta in av användare som söker belöningar genom bug bounty-program. De överväldigar utvecklarna med obefintliga eller dåligt beskrivna problem.
Mozilla, medvetna om situationen, var inledningsvis försiktiga med samarbetet. Frontier Red Teams tillvägagångssätt visade sig dock vara annorlunda: Endast de domar som åtföljdes av solida bevis lämnades in för granskning., med tydliga automatiska reproduktioner och, i vissa fall, förslag på kandidatpatchar genererade av AI:n själv och granskade av människor.
Mozillas ingenjörer har lyft fram tre element som de anser vara viktiga för att lita på AI-baserade rapporter: minimala testfall, detaljerade konceptbevis och föreslagna patcharDenna kombination minskar drastiskt den tid som behövs för att bekräfta om ett fynd förtjänar omedelbar uppmärksamhet eller kan skjutas upp.
Kan AI utnyttja de sårbarheter den upptäcker?
En av de mest känsliga punkterna i experimentet var att ta reda på om Claude inte bara var kapabel till hitta sårbarheterutan också att förvandla dem till funktionella exploateringarDet vill säga i attacker som kan utföra skadliga handlingar på ett målsystem.
Anthropic bestämde sig för att mäta denna förmåga i en kontrollerad miljö. Teamet försåg modellen med information om sårbarheter som redan rapporterats till Mozilla och bad den att generera exploitkod i syfte att läsa och skriva en lokal fil i en testmaskin, en handling som i ett verkligt scenario skulle innebära en allvarlig kompromiss med systemet.
För att uppnå detta genomfördes flera hundra separata avrättningar och cirka [belopp saknas] investerades. 4 000 dollar i API-krediterResultatet var nyanserat: Claude lyckades bara producera Två enkla knep som skulle fungeraOch ändå bara i en miljö där flera skydd som finns i moderna webbläsare, såsom sandlådan och andra härdande försvar, avsiktligt hade inaktiverats.
Mozilla betonar att det under verkliga förhållanden vanligtvis krävs att Firefox komprometteras kedja samman flera sårbarheter och kringgå flera försvarslagerAtt hitta en enda sårbarhet, även en mycket allvarlig, räcker sällan för att ta kontroll över användarens system, vilket för närvarande begränsar den direkta offensiva potentialen hos dessa verktyg.
Ändå anser Anthropic att det är betydelsefullt att en språkmodell är kapabel, om än bara i ett fåtal fall och under reducerade förhållanden, att generera automatiskt ett exploit för en modern webbläsareFöretaget varnar för att denna klyfta – skillnaden mellan att upptäcka och utnyttja – kan minska i takt med att bedömningsmodeller och metoder fortsätter att förbättras.
Mozilla integrerar AI i sina säkerhetsprotokoll
Efter samarbetets framgång, Mozilla har bekräftat att de kommer att integrera AI-assisterad analys i sitt vanliga säkerhetsarbetsflöde. för Firefox. Stiftelsens team har redan börjat experimentera internt med Claude för buggsortering, patchgranskning och upptäckt av sårbarhetsmönster inom kritiska områden i koden.
Organisationen, med en stark närvaro av användare och utvecklare i Europa, ser denna teknik som ett sätt att stärka integritets- och säkerhetsskyddetDessa är grundpelare som utgör en del av Firefox-projektets identitet. Som en webbläsare med öppen källkod är dess kodbas tillgänglig för granskning av både oberoende forskare och automatiserade agenter, såsom Anthropics egen AI.
För Mozilla kommer nyckeln att vara att upprätthålla en balans mellan automatisering och mänsklig granskningÄven om AI-modeller kan påskynda buggdetektering och föreslå korrigeringar, insisterar stiftelsen på att alla patchar – oavsett om de kommer från en person eller en maskin – måste genomgå samma tekniska granskning innan de integreras i webbläsaren som används av medborgare i Europa och resten av världen.
Denna erfarenhet har också gett en praktisk vägledning för andra programvaruprojekt, inklusive de som utvecklats i Spanien eller inom Europeiska unionen: om AI-baserade rapporter ska accepteras är det lämpligt att kräva tydliga bevis på reproducerbarhet och etablera specifika kanaler för denna typ av avslöjande, för att undvika överbelastning av traditionella felspårningssystem.
Lärdomar för utvecklare och teknikföretag i Europa
Utöver mediehetsen kring Firefox ger samarbetet mellan Anthropic och Mozilla ett antal relevanta slutsatser för startups, små och medelstora teknikföretag och stora europeiska företag som utvecklar sin egen programvara eller digitala tjänster.
Ett av de tydligaste är att AI-assisterad kodgranskning har blivit ekonomiskt lönsamDet som tidigare skulle ha krävt ett team av specialister som arbetade i veckor kan nu få en första automatiserad granskning på några timmar eller dagar, till en mycket lägre kostnad än en grundlig manuell granskning.
En annan lärdom är att Detekteringshastigheten börjar överstiga mänsklig korrigeringskapacitetVerktyg som Claude kan snabbt hitta dussintals potentiella sårbarheter, men flaskhalsen blir interna teams förmåga att validera, prioritera och åtgärda dessa problem utan att skada andra delar av systemet.
Det är också tydligt att Öppen källkod är inte synonymt med garanterad säkerhetDet erbjuder dock en betydande fördel: transparens. Projekt som Firefox, mycket populära i Europa för sitt fokus på integritet, gör det möjligt för både communityn och automatiserade agenter att kontinuerligt granska koden, något som är omöjligt i slutna lösningar.
För många organisationer kan integrering av AI i utvecklingsprocessen – till exempel genom att integrera automatiserad analys i CI/CD-faserna – bli en differentierande faktor vid påvisande av regelefterlevnadDetta blir alltmer relevant med den framtida tillämpningen av europeiska standarder för cybersäkerhet och kritisk programvara.
Samtidigt fungerar fallet som en påminnelse om att angripare också har tillgång till liknande tekniker. Den nuvarande fördelen verkar ligga på försvarets sida.AI är bättre på att hitta och hjälpa till att korrigera brister än att utnyttja dem, men ingen tar för givet att denna fördel kommer att bestå i många år.
I det här scenariot börjar säkerhetschefer i europeiska företag – från banker till e-handelsplattformar eller digitala verktyg – se dessa verktyg inte som ett experimentellt tillägg, utan som ytterligare en del av deras strategi för programvaruskydd.
Firefox- och Anthropic-debaklen visar hur en välstyrd och övervakad AI-modell kan fungera som en säkerhetsrevisor i toppklass: den kan granska stora kodbaser, upptäcka komplexa fel och föreslå lösningar mycket snabbt. Samtidigt tydliggör det att det slutgiltiga beslutet fortfarande ligger hos mänskliga team, som måste bestämma vad som ska uppdateras, hur och med vilka prioriteringar, i ett landskap där mjukvaru- och hotutvecklingen fortsätter att accelerera.
