Pereiti prie pagrindinio turinio
BilgeQor

AI raudonosios komandos testavimas ir LLM saugumo vertinimas

Pamatykite, kaip jūsų AI programa elgiasi atliekant priešišką testavimą, su įrodytais radiniais apie užklausų injekciją, duomenų nutekėjimą ir piktnaudžiavimą bei prioritetiniu taisymų sąrašu.

Apibrėžtos apimties projektas
  • UPRELAY YAZILIM TEKNOLOJİLERİ LİMİTED ŞİRKETİStambulas, Turkija
  • BilgeQor LtdLondonas, Jungtinė Karalystė
  • PT BILGEQOR INTELLIGENT SYSTEMSDžakarta, Indonezija
Atsakome per 24 valandas.

Ar AI raudonosios komandos testavimas yra tinkamas pasirinkimas?

Labiausiai tinka

  • ✓Komandos, kurios netrukus paleis ar plės pokalbių robotą, kopilotą, paieška papildytą generavimą (RAG) ar AI agentą su prieiga prie įmonės duomenų ar įrankių
  • ✓Produktų ir saugumo vadovai, kurie turi atsakyti į klientų ar valdybos klausimus apie AI riziką įrodymais
  • ✓Organizacijos, besirengiančios EU AI Act pareigoms ir norinčios žinoti, kur yra jų sistemos
  • ✓Inžinerijos komandos, kurių modeliai kviečia įrankius, naršo žiniatinklyje ar veikia pagal išorinių šalių pateiktus dokumentus

Kita paslauga labiau tinka, jei

  • –Norite, kad būtų testuojama jūsų žiniatinklio programa ir API: teikiama kaip Skverbties testavimas ir API saugumo testavimas
  • –Norite AI agento integracijos dizaino peržiūros: teikiama kaip LLM & AI Agent Security Review
  • –Norite, kad prieš jūsų organizaciją būtų imituojamas žmogus užpuolikas: teikiama kaip Red Team Exercise

Ką mes vertiname

  • Sužinokite, ar paslėptos instrukcijos gali užgrobti jūsų AI: tiesioginės ir netiesioginės užklausų injekcijos testavimas, įskaitant instrukcijas, paslėptas dokumentuose, tinklalapiuose, el. laiškuose ir įrankių išvestyse
  • Laikykite jautrius duomenis viduje: nutekėjimo testavimas, apimantis sistemos užklausas, gautus dokumentus, mokymo ar patikslinimo duomenis ir kitų naudotojų duomenis
  • Pamatykite, kaip laikosi jūsų politika: piktnaudžiavimo testavimas pagal jūsų nustatytą politiką, apimantis apsaugų apėjimą (jailbreak), kenksmingo turinio filtro apėjimą ir leidžiamų funkcijų piktnaudžiavimą
  • Apribokite, ką agentas gali daryti: agento ir įrankių naudojimo peržiūra dėl pernelyg didelių teisių, nesaugių veiksmų, nesaugių papildinių ir trūkstamų žmogaus tvirtinimo žingsnių
  • Apsaugokite duomenis už modelio: duomenų gavimo (retrieval), vektorių saugyklos ir duomenų konvejerio peržiūra, įskaitant prieigos kontrolę ir užnuodijimo kelius
  • Patikrinkite kontrolės priemones aplink modelį: autentifikavimo, užklausų dažnio ribojimo, išvesties tvarkymo ir žurnalų vedimo aplinkinėje programoje peržiūra
  • Pasiruoškite EU AI Act pokalbiams: sistemos klasifikavimo, dokumentacijos ir priežiūros spragų pasirengimo žemėlapis, pateikiamas kaip pasirengimo vaizdas jūsų patarėjams

Rezultatai

Įprasta trukmė
Paprastai 2–4 savaitės nuo pasirašytos apimties, priklausomai nuo apimties AI sistemų ir įrankių skaičiaus, tai patvirtinama jūsų raštiškame pasiūlyme.
Kainodara
Pasiūlymas su fiksuota kaina po nemokamo apimties aptarimo skambučio.
Testavimo planas ir dalyvavimo taisyklių santrauka, kad visi žinotų, kas bus testuojama ir kur testavimas sustoja
Radinių registras su sunkumo lygiu, atkūrimo užklausomis, įrodymais ir taisymo nurodymais, kad jūsų komanda galėtų atkartoti ir ištaisyti kiekvieną problemą
Išpuolio kelio aprašas, rodantis, kaip problemos jūsų programoje susijungia, kad matytumėte tikrąją verslo riziką
Apsauginių ribų (guardrail) ir kontrolės priemonių rekomendacijos modelio, programos ir duomenų sluoksniuose
EU AI Act pasirengimo žemėlapis su nustatytomis dokumentacijos ir priežiūros spragomis, paruoštas perduoti jūsų patarėjams
Aptarimas su produktų, saugumo ir inžinerijos suinteresuotosiomis šalimis; galimas jūsų pasirinktų taisymų pakartotinis testavimas

Prieš pradedant

  • +Vadovo, kuriam priklauso AI sistema, patvirtinimas, apimantis testavimo metodus ir testavimo paskyras
  • +Testavimo ar parengiamoji aplinka arba produkcinio testavimo ribos
  • +Testavimo paskyros, API prieiga ir modelio, įrankių, duomenų šaltinių bei sistemos užklausų dokumentacija
  • +Raštiškos leistino naudojimo taisyklės, apimančios kenksmingo turinio testavimą, duomenų tvarkymą ir sustabdymo sąlygas
  • +Pranešimai modelio teikėjui ar platformai, kai to reikalauja jų sąlygos
  • +Paskirti kontaktai, pasiekiami testavimo lango metu

Neįtraukta (teikiama atskirai)

  • Teisinės konsultacijos ar formalus EU AI Act atitikties, atitikties vertinimo ar sertifikavimo nustatymas; suteikiame pasirengimo įrodymus, kurių reikia jūsų patarėjams
  • Modelių mokymas ar permokymas arba naujų apsauginių ribų sistemų kūrimas, nebent įkainojama atskirai
  • Trečiųjų šalių modelių teikėjų pačių infrastruktūros testavimas ir paslaugos trikdymo testavimas, galintis paveikti bendrą ar produkcinę talpą
  • Bendras pagrindinės programos žiniatinklio ir API testavimas: teikiama kaip Skverbties testavimas ir API saugumo testavimas

Kaip tai veikia

1

Apimtis ir patvirtinimas

Testavimas prasideda tik su savininko raštišku leidimu ir pasirašyta apimtimi su sutartomis sustabdymo sąlygomis, todėl jūsų veikianti AI sistema ir jos naudotojai išlieka apsaugoti. Prieš bet kokį testavimą patvirtiname AI sistemą, testavimo aplinką, piktnaudžiavimo scenarijus ir draudžiamus veiksmus.

2

Grėsmių modeliavimas

Nubraižome duomenų šaltinius, įrankius, naudotojus ir pasitikėjimo ribas, kad nuspręstume, kurie išpuolių keliai jūsų sistemai svarbiausi.

3

Priešiškas testavimas

Prieš apimties sistemą vykdome rankinius ir automatizuotus išpuolius, kiekvienam radiniui fiksuodami užklausas, atsakymus ir įrodymus.

4

Ataskaitų teikimas

Pateikiame radinius, išpuolio kelio aprašą, kontrolės priemonių rekomendacijas ir pasirengimo žemėlapį jūsų komandoms tinkama forma.

5

Aptarimas ir pakartotinis testavimas

Su rezultatais supažindiname jūsų suinteresuotąsias šalis ir, jei pasirenkate, pakartotinai testuojame jūsų atliktus taisymus.

Pirmiausia pateikite apimties užklausą. Atsakome per 24 valandas, o raštiškame pasiūlyme patvirtiname AI sistemą, integracijas, leidimą ir testavimo langą. Darbai prasideda, kai raštiška apimtis patvirtinama.

Apimtis ir kainos pasiūlymas

Galutinė apimtis ir kainos pasiūlymas priklauso nuo jūsų AI sistemos, integracijų ir testavimo lango.

Kodėl BilgeQor

  • Kiekvienas radinys pateikiamas su atkūrimo užklausomis ir įrodymais, o išpuolio kelio aprašas rodo, kaip problemos jūsų programoje susijungia.
  • EU AI Act pasirengimo žemėlapis suteikia jūsų patarėjams struktūrizuotą klasifikavimo, dokumentacijos ir priežiūros spragų vaizdą.
  • AI sistema, testavimo aplinka ir sustabdymo sąlygos pirmiausia nustatomos raštiškoje apimtyje; testuotojai dirba nuotoliniu būdu, koordinuojami iš Stambulo, Džakartos ir Londono.

Dažnai užduodami klausimai

Susijusios paslaugos

OT, ICS ir IoT saugumo vertinimas

Pramoninių valdymo sistemų, operacinių technologijų tinklų ir prijungtų įrenginių saugumo vertinimas, kuriame saugumas yra pirmoje vietoje, planuojamas kartu su jūsų inžinieriais.

Patikrinkite savo API dėl prieigos klaidų

Leistinas jūsų REST, GraphQL ir mobiliųjų programų užkulisių API testavimas dėl sugadintos autorizacijos, injekcijų ir verslo logikos klaidų, su aiškiu taisymų sąrašu.

Išbandykite savo AI programą iki ribų

Aprašykite savo AI sistemą ir jos įrankius; raštu gausite pasiūlymą su fiksuota kaina.

Kas vyksta pateikus užklausą

  1. Peržiūrime jūsų užklausą
  2. Pokalbis apie apimtį
  3. Rašytinis pasiūlymas

Atsakome per 24 valandas.