cPAID

Το έργο cPAID, χρηματοδοτούμενο από το Horizon Europe, βρίσκεται στην πρώτη γραμμή ενίσχυσης της ασφάλειας και της ανθεκτικότητας των εφαρμογών και λειτουργιών τεχνητής νοημοσύνης (AI). Στόχος του είναι η έρευνα, ανάπτυξη και παροχή ενός προηγμένου, βασισμένου στο υπολογιστικό νέφος, πλαισίου άμυνας, ανεξάρτητου πλατφόρμας, που παρέχει ολιστική προστασία των συστημάτων AI ενάντια σε εχθρικές επιθέσεις και κακόβουλες ενέργειες.

Καθώς η τεχνητή νοημοσύνη ενσωματώνεται όλο και περισσότερο στον πυρήνα των οργανισμών, η ασφάλεια αυτών των συστημάτων απέναντι στις εξελισσόμενες απειλές καθίσταται πιο κρίσιμη από ποτέ. Το cPAID αντιμετωπίζει αυτήν την πρόκληση, επικεντρώνοντας τόσο σε επιθέσεις δηλητηρίασης όσο και σε επιθέσεις παράκαμψης, συνδυάζοντας προηγμένες μεθόδους άμυνας AI, όπως η δια βίου ημι-εποπτευόμενη ενισχυτική μάθηση, η μεταφορά μάθησης, η εκπαιδευτική αντιπαλότητα και η μείωση χαρακτηριστικών. Αυτές οι μέθοδοι ενισχύονται με την ενσωμάτωση αρχών ασφάλειας και ιδιωτικότητας από τον σχεδιασμό, τεχνικών διαφύλαξης της ιδιωτικότητας, εξηγήσιμης τεχνητής νοημοσύνης (XAI), γενετικής AI, επίγνωσης του πλαισίου, καθώς και αξιολόγησης κινδύνων και ευπαθειών. Επιπλέον, το έργο θα αξιοποιήσει τη νοημοσύνη απειλών για την ενίσχυση της προστασίας των συστημάτων AI.