AI raudonosios komandos testavimas ir LLM saugumo vertinimas
Pamatykite, kaip jūsų AI programa elgiasi atliekant priešišką testavimą, su įrodytais radiniais apie užklausų injekciją, duomenų nutekėjimą ir piktnaudžiavimą bei prioritetiniu taisymų sąrašu.
- UPRELAY YAZILIM TEKNOLOJİLERİ LİMİTED ŞİRKETİStambulas, Turkija
- BilgeQor LtdLondonas, Jungtinė Karalystė
- PT BILGEQOR INTELLIGENT SYSTEMSDžakarta, Indonezija
Ar AI raudonosios komandos testavimas yra tinkamas pasirinkimas?
Labiausiai tinka
- ✓Komandos, kurios netrukus paleis ar plės pokalbių robotą, kopilotą, paieška papildytą generavimą (RAG) ar AI agentą su prieiga prie įmonės duomenų ar įrankių
- ✓Produktų ir saugumo vadovai, kurie turi atsakyti į klientų ar valdybos klausimus apie AI riziką įrodymais
- ✓Organizacijos, besirengiančios EU AI Act pareigoms ir norinčios žinoti, kur yra jų sistemos
- ✓Inžinerijos komandos, kurių modeliai kviečia įrankius, naršo žiniatinklyje ar veikia pagal išorinių šalių pateiktus dokumentus
Kita paslauga labiau tinka, jei
- –Norite, kad būtų testuojama jūsų žiniatinklio programa ir API: teikiama kaip Skverbties testavimas ir API saugumo testavimas
- –Norite AI agento integracijos dizaino peržiūros: teikiama kaip LLM & AI Agent Security Review
- –Norite, kad prieš jūsų organizaciją būtų imituojamas žmogus užpuolikas: teikiama kaip Red Team Exercise
Ką mes vertiname
- Sužinokite, ar paslėptos instrukcijos gali užgrobti jūsų AI: tiesioginės ir netiesioginės užklausų injekcijos testavimas, įskaitant instrukcijas, paslėptas dokumentuose, tinklalapiuose, el. laiškuose ir įrankių išvestyse
- Laikykite jautrius duomenis viduje: nutekėjimo testavimas, apimantis sistemos užklausas, gautus dokumentus, mokymo ar patikslinimo duomenis ir kitų naudotojų duomenis
- Pamatykite, kaip laikosi jūsų politika: piktnaudžiavimo testavimas pagal jūsų nustatytą politiką, apimantis apsaugų apėjimą (jailbreak), kenksmingo turinio filtro apėjimą ir leidžiamų funkcijų piktnaudžiavimą
- Apribokite, ką agentas gali daryti: agento ir įrankių naudojimo peržiūra dėl pernelyg didelių teisių, nesaugių veiksmų, nesaugių papildinių ir trūkstamų žmogaus tvirtinimo žingsnių
- Apsaugokite duomenis už modelio: duomenų gavimo (retrieval), vektorių saugyklos ir duomenų konvejerio peržiūra, įskaitant prieigos kontrolę ir užnuodijimo kelius
- Patikrinkite kontrolės priemones aplink modelį: autentifikavimo, užklausų dažnio ribojimo, išvesties tvarkymo ir žurnalų vedimo aplinkinėje programoje peržiūra
- Pasiruoškite EU AI Act pokalbiams: sistemos klasifikavimo, dokumentacijos ir priežiūros spragų pasirengimo žemėlapis, pateikiamas kaip pasirengimo vaizdas jūsų patarėjams
Rezultatai
- Įprasta trukmė
- Paprastai 2–4 savaitės nuo pasirašytos apimties, priklausomai nuo apimties AI sistemų ir įrankių skaičiaus, tai patvirtinama jūsų raštiškame pasiūlyme.
- Kainodara
- Pasiūlymas su fiksuota kaina po nemokamo apimties aptarimo skambučio.
Prieš pradedant
- +Vadovo, kuriam priklauso AI sistema, patvirtinimas, apimantis testavimo metodus ir testavimo paskyras
- +Testavimo ar parengiamoji aplinka arba produkcinio testavimo ribos
- +Testavimo paskyros, API prieiga ir modelio, įrankių, duomenų šaltinių bei sistemos užklausų dokumentacija
- +Raštiškos leistino naudojimo taisyklės, apimančios kenksmingo turinio testavimą, duomenų tvarkymą ir sustabdymo sąlygas
- +Pranešimai modelio teikėjui ar platformai, kai to reikalauja jų sąlygos
- +Paskirti kontaktai, pasiekiami testavimo lango metu
Neįtraukta (teikiama atskirai)
- Teisinės konsultacijos ar formalus EU AI Act atitikties, atitikties vertinimo ar sertifikavimo nustatymas; suteikiame pasirengimo įrodymus, kurių reikia jūsų patarėjams
- Modelių mokymas ar permokymas arba naujų apsauginių ribų sistemų kūrimas, nebent įkainojama atskirai
- Trečiųjų šalių modelių teikėjų pačių infrastruktūros testavimas ir paslaugos trikdymo testavimas, galintis paveikti bendrą ar produkcinę talpą
- Bendras pagrindinės programos žiniatinklio ir API testavimas: teikiama kaip Skverbties testavimas ir API saugumo testavimas
Kaip tai veikia
Apimtis ir patvirtinimas
Testavimas prasideda tik su savininko raštišku leidimu ir pasirašyta apimtimi su sutartomis sustabdymo sąlygomis, todėl jūsų veikianti AI sistema ir jos naudotojai išlieka apsaugoti. Prieš bet kokį testavimą patvirtiname AI sistemą, testavimo aplinką, piktnaudžiavimo scenarijus ir draudžiamus veiksmus.
Grėsmių modeliavimas
Nubraižome duomenų šaltinius, įrankius, naudotojus ir pasitikėjimo ribas, kad nuspręstume, kurie išpuolių keliai jūsų sistemai svarbiausi.
Priešiškas testavimas
Prieš apimties sistemą vykdome rankinius ir automatizuotus išpuolius, kiekvienam radiniui fiksuodami užklausas, atsakymus ir įrodymus.
Ataskaitų teikimas
Pateikiame radinius, išpuolio kelio aprašą, kontrolės priemonių rekomendacijas ir pasirengimo žemėlapį jūsų komandoms tinkama forma.
Aptarimas ir pakartotinis testavimas
Su rezultatais supažindiname jūsų suinteresuotąsias šalis ir, jei pasirenkate, pakartotinai testuojame jūsų atliktus taisymus.
Pirmiausia pateikite apimties užklausą. Atsakome per 24 valandas, o raštiškame pasiūlyme patvirtiname AI sistemą, integracijas, leidimą ir testavimo langą. Darbai prasideda, kai raštiška apimtis patvirtinama.
Apimtis ir kainos pasiūlymas
Galutinė apimtis ir kainos pasiūlymas priklauso nuo jūsų AI sistemos, integracijų ir testavimo lango.
Kodėl BilgeQor
- Kiekvienas radinys pateikiamas su atkūrimo užklausomis ir įrodymais, o išpuolio kelio aprašas rodo, kaip problemos jūsų programoje susijungia.
- EU AI Act pasirengimo žemėlapis suteikia jūsų patarėjams struktūrizuotą klasifikavimo, dokumentacijos ir priežiūros spragų vaizdą.
- AI sistema, testavimo aplinka ir sustabdymo sąlygos pirmiausia nustatomos raštiškoje apimtyje; testuotojai dirba nuotoliniu būdu, koordinuojami iš Stambulo, Džakartos ir Londono.
Dažnai užduodami klausimai
Susijusios paslaugos
OT, ICS ir IoT saugumo vertinimas
Pramoninių valdymo sistemų, operacinių technologijų tinklų ir prijungtų įrenginių saugumo vertinimas, kuriame saugumas yra pirmoje vietoje, planuojamas kartu su jūsų inžinieriais.
Patikrinkite savo API dėl prieigos klaidų
Leistinas jūsų REST, GraphQL ir mobiliųjų programų užkulisių API testavimas dėl sugadintos autorizacijos, injekcijų ir verslo logikos klaidų, su aiškiu taisymų sąrašu.
Išbandykite savo AI programą iki ribų
Aprašykite savo AI sistemą ir jos įrankius; raštu gausite pasiūlymą su fiksuota kaina.
Kas vyksta pateikus užklausą
- Peržiūrime jūsų užklausą
- Pokalbis apie apimtį
- Rašytinis pasiūlymas
Atsakome per 24 valandas.
