FBK in "The Economist”

Technology of language and religions. Trento-based Fondazione Bruno Kessler mentioned twice this month in the worlwide reknown weekly magazine.

Date: 
30/01/2017

The first quotation concerns a rapidly progressing area, neural networks for machine translation. In the article titled "Finding a voice" (The Economist - January 7), reporter Lane Greene interviews researcher Marcello Federico, Head of the HLT (Human Language Technology - Machine Translation) Research Unit of FBK's ICT Center, who provides an account on the state of the art of language technology.

The second quotation involves the director of our Center for Religious Studies, Marco Ventura. On the blog dedicated to religions, Ventura was questioned about the intervention of the European Court of Human Rights in Strasbourg on the Swiss case, in the canton of Basel, featured in the article "Swimming together, living together. The meaning of a European court verdict on Muslim girls and school swimming lessons" of January 13, which concerned the refusal by the parents of some Muslim female students to let them participate in mandatory school swimming lessons, during which they would have been in pool together their male classmates.

We further explore the themes of their interventions with our researchers.

***************************************

MARCELLO FEDERICO (responsabile dell'Unità di ricerca HLT-MT del Centro ICT della FBK)

Greene ha dedicato una sezione dell’articolo “Finding a voice” alla Machine Translation. “Greene” – ci racconta Federico – “ha lavorato per mesi all’articolo, intervistando diversi studiosi del settore. Durante l’intervista era molto interessato a capire il funzionamento di un nuovo approccio alla traduzione automatica, basato su reti neuronali, che ha cambiato il paradigma attuale”.

copertina dell'Economist

E come riesce una rete neuronale a risolvere il problema della traduzione automatica? 

“Mentre nell’approccio tradizionale” –spiega Federico – “la traduzione viene ottenuta componendo frammenti di traduzioni già visti in fase di addestramento, una rete neurale genera le traduzioni a partire da caratteristiche delle parole da tradurre che vengono estratte automaticamente dai testi,”.

Greene nel suo articolo parla di “Coca-Cola Factor”. Ci spiega meglio?

“Per usare un’analogia, è come se la rete neurale imparasse il concetto di Coca-Cola non tramite la ricetta che ne combina gli ingredienti, ma mediante le sue caratteristiche, come il colore, la liquidità, la dolcezza, caratteristiche che la rete in realtà scopre da sola”.

Potremmo definirla una sorta di intelligenza artificiale? 

“Sì, le reti neurali sono oggi il modello più avanzato di intelligenza artificiale, avendo ridefinito lo stato dell’arte in molti dei problemi che questa disciplina studia, quali il riconoscimento di immagini, i giochi di strategia e, appunto, la traduzione automatica.”

Non è un concetto semplice da capire..

“Non è facile da spiegare a parole perché” – ammette Federico - “è difficile capire cosa la rete rappresenti al suo interno. La rete neuronale è un oggetto molto elegante e misterioso. Se deve tradurre in inglese la frase Domani volerò a Roma, la rete tramite i suoi nodi calcola prima una rappresentazione interna (codifica) del testo e poi da quest’ultima, mediante altri nodi, genera il testo inglese Tomorrow I will fly to London (decodifica). La rete impara a codificare e decodificare ottimizzando i suoi parametri. Noi semplicemente forniamo molti esempi di traduzione che la rete usa per misurare il suo grado di apprendimento e per modificare i suoi parametri ogni volta che commette un errore. Per aver un’idea della complessità di questo compito, utilizzando un computer con elevato parallelismo una rete neurale può impiegare molti giorni per ottimizzare i suoi pesi.”  

Cos’è per lei “la rete”? 

“La rete è una cosa piuttosto semplice ed elegante, se si guardano le sue parti elementari, cioè i suoi nodi: ciascun nodo trasforma i suoi valori di input in un valore di output combinandoli con dei “pesi” (o parametri) e applicando delle operazioni elementari. La rete diventa complessa e misteriosa se la vediamo nel suo insieme, fatto di decine di migliaia di nodi collegati tra loro, e di milioni di parametri da apprendere. Cosa esattamente rappresentino i valori associati dalla rete ai parametri non lo sappiamo, perché l’algoritmo di apprendimento li sceglie in modo che minimizzino gli errori di traduzione della rete e non perché abbiano un significato particolare.

Quali sono le ricerche che state conducendo nel vostro gruppo? 

Machine translation

“Al momento nel team di traduzione automatica portiamo avanti due filoni: uno di ricerca, sulle ultime tecnologie (traduzione neurale), l’altro sull'applicazione industriale della traduzione automatica. Il nostro obiettivo ultimo è di sviluppare tecnologie di traduzione automatica statistica per l’industria, che abbia caratteristiche adatte a risolvere i problemi dei traduttori professionisti e delle agenzie di traduzione. Le nostre ricerche in particolare cercano di superare i limiti che ostacolano ancora l’applicabilità della traduzione neurale in molti casi pratici.

Neural Network

Da quanto ci lavorate?

“Abbiamo iniziato a lavorare sulla traduzione neurale da circa un anno. Siamo praticamente gli unici in Italia e in Europa collaboriamo con altri laboratori di ricerca, grazie anche al fatto che questa tecnologia utilizza la condivisione di software open source. Oggi nel mondo c’è un forte interesse nei confronti del di tutto ciò che ha a che fare con le reti neurali. Nell'ultima conferenza sul tema, che si è tenuta a Barcellona lo scorso dicembre, c’erano circa 4,500 partecipanti. C’è un’eccitazione globale su questo tema che tutti credono sia il futuro dell’intelligenza artificiale".

Quali sono i punti di forza di questa tecnologia?

“In un’analisi comparativa tra traduzione di tipo neurale e traduzione di tipo a “frasi”, dall'inglese al tedesco, abbiamo riscontrato che la prima è molto migliore nell'ordinare le parole. In particolare nella posizionare i verbi, che in tedesco possono finire in fondo alla frase”.

Neural Network

Quali sono i problemi da risolvere in questo nuovo filone di ricerca?

“La difficoltà maggiore è quella di rendere più veloce l’addestramento. In generale, la traduzione neurale è molto più dispendiosa in termini computazionali. Mi spiego meglio con un raffronto: invece delle poche ore necessarie per addestrare un sistema statistico a “frasi”, per un sistema neurale ci vogliono diversi giorni utilizzando computer più potenti. Dobbiamo cercare di ridurre questo gap, perché l’industria non può permettersi questi tempi. In secondo luogo, l’industria della traduzione opera su tanti domini linguistici diversi, come l’automotive, la farmaceutica, o l’Information Technology. Vorremmo rendere le reti neurali più flessibili, in modo che possano contemporaneamente lavorare su molteplici domini, cosa che oggi ancora non sanno fare bene”.

****************************************

MARCO VENTURA (Director of the Center for Religious Studies - FBK-ISR)

blog dell'Economist

In the article "Swimming together, living together. The meaning of a European court verdict on Muslim girls and school swimming lessons" of January 13, The Economist deals with a case of a report - anything but isolated - which concerned the conflict between the parents of Muslim girls and the school that had sanctioned them for not having allowed their daughters to participate in swimming lessons. The Swiss authorities, in 2010, had been adamant and had sanctioned (with 1400 Swiss francs) the female students and their parents for having covered their refusal. The European Court of Human Rights in Strasbourg, in their ruling on January 10, 2017, determined that the Swiss authorities were right.

17082874_401

Mr Director, in your statement in the Economist, you stressed the importance and the balance of this decision.

"Issues related to religious symbols" - explains Marco Ventura - "are to our society, and in particular for Europe, increasingly sensitive, especially when they are symbols of Islam. Many times news reports record facts, which often end up before the courts. It is not the first time this case comes up, especially in northern Europe, particularly in Germany where the courts have already pronounced in a rulings similar to those in Switzerland and now in Europe. According to the judges, where some minimal religious requirements, such as the right to wear the burkini, are protected, further exceptions like exempting girls from swimming lessons cannot be excepted. However, these tensions are indicators of a deeper conflict, and of the arduous search for solutions, which all citizens, not only experts, should reflect on and contribute to. "

Did the Court want to stress the importance, beyond the swimming course, of "knowing how to live together"?

photo_dpa

"It 's very difficult to find a balance between the right to be different, and to all the differences, including religious ones, and "living together"- to use the expression that the Court has embraced, since it has become a point of reference, above all in the French-speaking world. "Swim together" becomes a kind of extension of the concept of living together. The balance between what is due to difference, and what is due to the need of living together is a fragile and delicate one, to be pursued each time. This judgment identifies a balance. But beyond court rulings, what matters is how civil society seeks and finds that balance in everyday life "- said Marco Ventura." (m.l.)