Max van Duijn, onderzoeker en docent verbonden aan het Institute of Advanced Computer Science (LIACS) van de Universiteit Leiden, heeft een droomproject: experimenten met taalleerders.
“Het meest fascinerende inzicht van de afgelopen jaren is dat er door het beter worden in een schijnbaar simpele taak als gemaskeerde tekst voorspellen, uiterst rijke informatie wordt opgeslagen in de modellen en dat deze informatie tot emergente eigenschappen leidt. Dat wil zeggen dat de modellen meer dan de som der delen worden: ze kunnen dingen die strikt genomen geen onderdeel van de training waren, maar die voortkomen uit het op nieuwe manieren her-combineren van informatie die het heeft geleerd.”
Lees hier het gehele antwoord van Van Duijn op ‘de jaarlijkse vraag’ – en alle andere 88 antwoorden.
