Nell'addestramento contraddittorio, i dati dell'addestramento sono aumentati da campioni "contradditari" generati utilizzando un algoritmo di attacco Se l'attaccante utilizza un algoritmo di attacco simile per generare esempi contrari, l'attaccante addestrato la rete può essere abbastanza robusta per l'attacco.
Come funziona l'apprendimento contraddittorio?
L'apprendimento automatico contraddittorio è una tecnica di apprendimento automatico che tenta di ingannare i modelli fornendo input ingannevoli. … La maggior parte delle tecniche di apprendimento automatico sono state progettate per funzionare su serie di problemi specifici in cui i dati di addestramento e test sono generati dalla stessa distribuzione statistica (IID).
Come funzionano gli esempi contraddittori?
Esempi contraddittori sono input a modelli di apprendimento automatico che un utente malintenzionato ha progettato intenzionalmente per indurre il modello a commettere un errore; sono come illusioni ottiche per macchine.… Un input contraddittorio, sovrapposto a un'immagine tipica, può indurre un classificatore a classificare erroneamente un panda come un gibbone.
Cos'è la formazione in contraddittorio nell'apprendimento profondo?
Un attacco contraddittorio potrebbe comportare la presentazione di un modello di apprendimento automatico con dati imprecisi o falsamente rappresentativi in quanto si sta formando, o l'introduzione di dati progettati in modo dannoso per indurre un modello già addestrato a commettere errori.
Cos'è l'allenamento contro se stessi?
Per rafforzare ulteriormente la capacità di difesa, viene proposto un addestramento contraddittorio autocontrollato, che massimizza la mutua informazione tra le rappresentazioni di esempi originali e i corrispondenti esempi contraddittori.
