Images that fool computer vision raise security concerns - http://news.cornell.edu/stories...
Mar 23, 2015
from
omfg
- d☭snake
interessanti anche i commenti su HN https://news.ycombinator.com/item...
- d☭snake
Non mi è chiaro se la questione si pone sulla fase di learning (che allora sarebbe un po' GAC) o sulla fase post-learning. In ogni caso omfg sì.
- miki
nono, post-learning, se leggi il primo articolo è chiaro, hanno lavorato su DNN già trainate. Poi hanno provato a introdurre il "rumore" nella fase di training etichettandolo come rumore, ma dice che è andata un po' meh.
- Craiv
Così avevo capito anch'io e la procedura pseudo-genetica che usano è molto affascinante. Però poi dice “The research shows that it is possible to ‘fool’ a deep learning system so it learns something that is not true but that you want it to learn,” che boh
- miki
non c'è un papero da qualche parte? Su scholar non trovo niente di recente di loro
- Craiv
eccolo! http://arxiv.org/abs/1412.1897
- Craiv
no, hanno usato due reti già addestrate.
- Craiv
forse hanno fatto casino nel riassunto, perché hanno usato algoritmi genetici per *generare* le immagini finte che hanno fregato i classificatori
- Craiv
Sì, ho letto il paper, è centrato su come fregare DNN già trainati. Bellissimo. Da provare anche con il riconoscimento di testi.
- miki
la parte delle cifre da 0 a 9 è stupenda
- Craiv
ma dopo la morte di FF dove le rimbalzo queste cose? uff
- d☭snake
Apposito Tumblr?
- Angelo Ghigi
tumblr per queste cose e` sparare nel vuoto, insomma mica sono contributi originali o una selezione di immagini da scorrere. La cosa interessante del rimbalzarli qui era la reazione, il commento, bah. Per segnalarli non ne vale la pena, li trovo tutti nei soliti posti, http://news.ycombinator.com/ e fate a meno di me.
- d☭snake
daccordissimo con dasnake. Il valore di ff e' nel non essere letto, manca la pressione di twitter, e' molto piu' leggero
- Meteo Solubile
mancherà anche a me FF per queste cose uff
- Lorenzo R v rs
mi pare diate tutti per scontato che frenf.it è un bel giocattolino ma non ce la farà.
- Hal 9000
frenf.it ha tutti gli ingredienti dell'insuccesso (one man project, closed source, risorse donate, etc.) pero` noto che sta risuonando entusiasmo anche nella comunita` non-italiana di ffers
- d☭snake
come das
- M.
AH e' closed source???? buuu
- Meteo Solubile
a parte quello il fatto che abbia vita breve lo rende ancora piu' appetibile per me
- Meteo Solubile
ahaha
- Davide in the TARDIS