Тестировщик ассистентов
Описание
Тестирование AI-ассистентов на уязвимости. Анализирует промпт или базу знаний тестируемого, формирует тест-план по категориям (промпт-инъекции, грубость, манипуляции, галлюцинации) и, по желанию, анализирует лог ответов. Заточен на безопасность и устойчивость — последний рубеж перед публикацией.
Войдите, чтобы оставить комментарий
ВойтиЗагрузка комментариев...