Τα τελευταία χρόνια, το ψηφιακό περιβάλλον και ο ψηφιακός μετασχηματισμός των επιχειρήσεων όλων των μεγεθών έχουν καταστήσει τις λύσεις που βασίζονται στην τεχνητή νοημοσύνη ζωτικής σημασίας για
κρίσιμες καταστάσεις. Τα συστήματα που βασίζονται στην τεχνητή νοημοσύνη χρησιμοποιούνται σε κάθε τεχνικό τομέα, συμπεριλαμβανομένων των έξυπνων πόλεων, των αυτοοδηγούμενων αυτοκινήτων, των αυτόνομων πλοίων, του 5G/6G,
και συστήματα ανίχνευσης εισβολής επόμενης γενιάς. Η σημαντική εκμετάλλευση των συστημάτων τεχνητής νοημοσύνης από τον κλάδο εκθέτει τους πρώιμους χρήστες μη ανακαλυφθέντα τρωτά σημεία, όπως η καταστροφή δεδομένων, η κλοπή μοντέλων και τα αντίθετα δείγματα λόγω της έλλειψης τακτικών και στρατηγικές ικανότητες για την άμυνα, τον εντοπισμό και την απόκριση σε επιθέσεις στα συστήματα που βασίζονται σε τεχνητή νοημοσύνη. Οι αντίπαλοι έχουν δημιουργήσει μια νέα επίθεση για να εκμεταλλευθούν ευπάθειες του συστήματος AI, στοχεύοντας συστήματα μηχανικής μάθησης (ML) και Deep Learning (DL) για να επηρεάσουν λειτουργικότητα και απόδοση. Η αντίπαλη τεχνητή νοημοσύνη είναι μια νέα απειλή που μπορεί να έχει σοβαρές επιπτώσεις σε κρίσιμους τομείς όπως τα οικονομικά και την υγειονομική περίθαλψη, όπου η τεχνητή νοημοσύνη χρησιμοποιείται ευρέως. Το έργο AIAS στοχεύει στη διεξαγωγή εις βάθους έρευνας σχετικά με την αντίπαλη τεχνητή νοημοσύνη για το σχεδιασμό και την ανάπτυξη μίας καινοτόμου πλατφόρμα ασφαλείας βασισμένη σε τεχνητή νοημοσύνη για την προστασία των συστημάτων τεχνητής νοημοσύνης και των λειτουργιών οργανισμών που βασίζονται σε τεχνητή νοημοσύνη, που βασίζεται σε μεθόδους άμυνας με αντίθετη τεχνητή νοημοσύνη (π.χ. αντίθετη εκπαίδευση, ανίχνευση επίθεσης με αντίθετη τεχνητή νοημοσύνη), μηχανισμοί εξαπάτησης (π.χ. υψηλή αλληλεπίδραση honeypots, digital twins, virtual personas) καθώς και σε εξηγήσιμες λύσεις AI (XAI) που εξουσιοδοτούν τις ομάδες ασφαλείας να υλοποιούν τις έννοιες του «AI for Cybersecurity» και «Cybersecurity for AI»