Que din as probas de seguridade da túa IA?
Sube o resultado das túas probas e contámosche en castelán: cantas pasaron e cantas fallaron en cada categoría, con que riscos de OWASP e artigos do Regulamento de IA se relacionan e que arranxar primeiro.
Non gardamos nada e non lanzamos ataques. Ti executas as túas probas; nós só lemos o ficheiro que nos subes, en memoria, e non se anota en ningún rexistro.
Que ficheiros lemos
Lemos o JSON ou o JSONL de promptfoo (promptfoo eval -o, promptfoo redteam run -o) e o report.jsonl de garak. Ata 5 MB. Se o ficheiro é doutro formato, dicímosche.
Giskard: a súa documentación di que o informe do escáner se pode exportar a JSON, pero non publica como é ese ficheiro, e non o adiviñamos. Cando estea publicado, engadirémolo.
Un report.jsonl de garak garda todas as respostas do modelo e pode pesar moitos MB. Para quedar só cos resultados por proba, no teu ordenador: jq -c 'select(.entry_type=="eval")' report.jsonl > resultados.jsonl
O que vimos
Que facer primeiro
Por categoría
O informe descárgase desde o teu navegador. Nós non gardamos unha copia.
Como o lemos
- Unha proba, un resultado
- Pasa, falla ou dá erro. As que dan erro cóntanse á parte: non sabes se terían pasado.
- Por categoría
- Agrupamos polo tipo de ataque que probaches (instrucións que enganan, datos que se escapan, respostas inventadas…).
- OWASP e Regulamento de IA
- A cada categoría poñémoslle o risco de OWASP máis próximo e os artigos 9, 15 ou 55 do Regulamento de IA. É unha guía, non unha auditoría.
- Que facer primeiro
- Comezamos polas categorías con máis fallos, cun consello claro para cada unha.
Para saber se o teu sistema é de alto risco, mira É de alto risco a miña IA?. Para ver que IA usa o teu equipo, o inventario de IA. Isto non é asesoramento xurídico.
Preguntas frecuentes
Lanzades ataques contra a miña IA?
Non. Ti executas as túas probas coas túas ferramentas e súbesnos o ficheiro de resultados. Nós só o lemos e explicámolo. Nunca nos conectamos ao teu sistema.
Gardades o meu ficheiro?
Non. O ficheiro lese ao momento, en memoria, e non se garda nin se anota en ningún rexistro: nin o texto nin os nomes das túas probas. Se pechas a páxina, desaparece. O informe para imprimir descárgalo ti, desde o teu navegador.
Que ficheiros lede?
Lemos o JSON ou o JSONL de promptfoo (promptfoo eval -o, promptfoo redteam run -o) e o report.jsonl de garak. Ata 5 MB. Se o ficheiro é doutro formato, dicímoscho: non adiviñamos.
E os de Giskard?
Aínda non. Giskard: a súa documentación di que o informe do escáner se pode exportar a JSON, pero non publica como é ese ficheiro, e non o adiviñamos. Cando estea publicado, engadirémolo.
O meu report.jsonl de garak pesa moito. Que fago?
O report.jsonl garda todas as respostas do modelo. Un report.jsonl de garak garda todas as respostas do modelo e pode pesar moitos MB. Para quedarte só cos resultados por proba, no teu ordenador: jq -c 'select(.entry_type=="eval")' report.jsonl > resultados.jsonl Así só subes o resultado de cada proba.
Como conto as probas?
En promptfoo, cada fila do ficheiro é unha proba: pasa ou falla. As que dan erro cóntanse á parte, porque non sabes se terían pasado. En garak, cada proba é unha resposta do modelo avaliada por un detector; as respostas que non se puideron puntuar non se contan.
Por que non sae a categoría das miñas probas?
En promptfoo, a categoría de cada proba só vén nos ficheiros das análises de seguridade (promptfoo redteam run). Nunha avaliación normal dámosche os totais e dicímolo. En garak, a categoría sae do módulo de cada sonda; se non está na nosa táboa, contámola como «outras probas» e non a relacionamos con OWASP.
Que quere dicir cada código de OWASP?
Son as listas de OWASP dos dez riscos principais das aplicacións con modelos de linguaxe (edición 2025) e das aplicacións con axentes (edición 2026). Unha proba concreta rara vez encaixa á perfección nun só risco: é unha guía para ordenar o traballo, non unha auditoría de OWASP.
Os artigos do Regulamento de IA obríganme?
Os artigos 9 (xestión de riscos) e 15 (precisión, solidez e ciberseguridade) obrigan os sistemas de IA de alto risco, e o 55 os modelos de uso xeral con risco sistémico. Para saber se o teu é de alto risco, mira «¿Es de alto riesgo mi IA?» en /ia-alto-riesgo. Se non o é, serven como boa práctica. Isto non é asesoramento xurídico.
Se todo pasa, a miña IA é segura?
Non. Quere dicir que pasou esas probas. Outras probas, outras instrucións ou outro modelo poden dar outro resultado. Repite as probas cada vez que cambies algo.
Fontes
- promptfoo: formatos de saída (licenza MIT) (ábrese noutra lapela)
- promptfoo: plugins e OWASP LLM Top 10 (ábrese noutra lapela)
- garak: o informe de resultados (licenza Apache-2.0) (ábrese noutra lapela)
- garak: sondas dispoñibles (ábrese noutra lapela)
- OWASP Top 10 for LLM Applications 2025 (ábrese noutra lapela)
- OWASP Top 10 for Agentic Applications for 2026 (ábrese noutra lapela)
- Regulamento (UE) 2024/1689 (Regulamento de IA), artigos 9, 15 e 55 (ábrese noutra lapela)
Fontes consultadas o 1 de novembro de 2026. Esta ferramenta ordena o que di o teu ficheiro; non o substitúe nin o comproba pola súa conta, e que unha proba pase non demostra que o teu sistema sexa seguro.