és tesztek
A fejlesztők ezután célzottan úgy készítették fel az Astra modellt, hogy megbízhatóbban utasítsa vissza a potenciálisan káros vagy kifejezetten kártékony célú kiberbiztonsági kéréseket. Ennek részeként létrehoztak egy tesztkörnyezetet, amely a Hugging Face-incidenshez hasonló helyzetet szimulál.
Az eredmények: jelentős különbség a modellek között
A tesztek eredménye szerint a korábbi GPT-5.6 Sol modell az esetek több mint felében “bevette a csalit”, és megpróbálta kompromittálni a rendszert a rábízott feladat végrehajtása érdekében. Ezzel szemben az Astra egyetlen esetben sem tett kísérletet önálló rendszerkompromittálásra.
Összegzés
Az eset jól illusztrálja azt a
