Acest modul dezvoltat de Politecnico di Torino oferă o introducere cuprinzătoare în fiabilitatea și siguranța sistemelor de inteligență artificială (IA), cu un accent special pe aplicarea acestora în domenii critice pentru siguranță. cursanții vor explora principiile fundamentale ale IA, inclusiv învățarea profundă și arhitecturile hardware care susțin algoritmii moderni. Modulul acoperă peisajul în evoluție al standardizării IA și al reglementărilor din industrie, cum ar fi Regulamentul UE privind IA. Apoi, cursanții vor învăța soluții de ultimă generație pentru a evalua, detecta și atenua defecțiunile induse de hardware în sistemele IA. Cursul se încheie cu o discuție despre tendințele și provocările viitoare în domeniul siguranței IA.

Despre acest modul de instruire

Pe măsură ce sistemele IA devin din ce în ce mai integrate în domenii critice pentru siguranță – cum ar fi asistența medicală, transportul și automatizarea industrială – fiabilitatea și siguranța lor au apărut ca priorități urgente. Spre deosebire de software-ul determinist tradițional, sistemele bazate pe inteligență artificială introduc noi complexități și comportamente imprevizibile, ceea ce face dificilă garantarea fiabilității și încrederii acestora în scenarii în care eșecurile pot avea consecințe catastrofale. Există o nevoie tot mai mare de ingineri și practicieni care nu numai că înțeleg principiile fundamentale ale IA și ale învățării profunde, dar sunt, de asemenea, echipați pentru a aborda provocările unice de siguranță și fiabilitate pe care le prezintă aceste tehnologii. Aceasta include navigarea în peisajul în continuă evoluție al standardizării și reglementării IA, cum ar fi Regulamentul UE privind IA, și stăpânirea tehnicilor de ultimă generație pentru detectarea și atenuarea defecțiunilor induse de hardware în sistemele de IA.

Structura modulului

• Introducere și motivație
• Arhitecturi hardware pentru IA
• Regulamentul european privind IA
• Siguranță și fiabilitate IA
• Analiza vulnerabilităților
• Modele de erori și defecțiuni în sistemele IA
• Evaluări de siguranță și fiabilitate
• Incertitudinea în DNN-uri
• Îmbunătățirea siguranței și fiabilității
• Concluzii și tendințe viitoare

Rezultatele învățării

După finalizarea cu succes a acestui modul de formare, cursanții vor putea:

• Descrieți conceptele fundamentale ale inteligenței artificiale, inclusiv impactul său economic și social, și recunoașteți atât beneficiile, cât și riscurile asociate, în special în sistemele critice pentru siguranță.
• Explicați principiile fiabilității în sistemele complexe și rolul învățării profunde în aplicațiile moderne de inteligență artificială.
• Identificați și comparați principalele arhitecturi hardware utilizate pentru a rula algoritmi IA, cum ar fi GPU-uri, ASIC-uri, TPU-uri și acceleratoare hardware.
• Sintetizați peisajul actual al standardizării IA și prezentați principalele standarde industriale internaționale relevante pentru dezvoltarea și implementarea sistemelor de IA.
• Evaluați metodologiile academice și industriale pentru evaluarea siguranței sistemelor IA, cu accent pe abordările bazate pe injecția de erori (FI) la nivel software, arhitectural și fizic.
• Distingeți între tehnicile de atenuare a defecțiunilor și de detectare pentru îmbunătățirea siguranței sistemelor de IA, inclusiv abordările active și pasive, și utilizarea bibliotecilor de testare specializate.
• Discutați despre tendințele emergente și provocările viitoare în domeniul siguranței IA, pe baza celor mai recente evoluții în materie de cercetare și reglementare (de exemplu, Regulamentul UE privind IA).

Detalii suplimentare

Cursul este dezvoltat în cadrul proiectului RESCHIP4EU, susținut de Programul Europa Digitală al Uniunii Europene. RESCHIP4EU își propune să sprijine excelența învățământului superior din UE în ceea ce privește proiectarea sistemelor integrate într-un mod holistic, de la siliciu prin proiectarea și fabricarea de sisteme pe cip până la platforme și software de aplicație inteligente și critice pentru siguranță. Mai multe informații despre modulul de formare privind siguranța inteligenței artificiale sunt disponibile pe această pagină.

Pe scurt

• Furnizor: Politecnico di Torino, în cadrul proiectului european RESCHIP4EU, pe platforma de învățare 28DIGITAL (finanțare prin Programul Europa Digitală);
• Format: online, în ritm propriu, până la 16 ore; nivel intermediar;
• Limba: engleză;
• Cost: gratuit; necesită un cont gratuit pe platforma 28DIGITAL.

Sursă: conținut european preluat și tradus de pe Digital Skills and Jobs Platform.