Microsoft publie son kit dédié aux réseaux de neurones en open source

Microsoft publie son kit dédié aux réseaux de neurones en open source

Vous avez bien quelques dizaines de GPU sous la main

Avatar de l'auteur
Vincent Hermann

Publié dans

Logiciel

27/01/2016 3 minutes
33

Microsoft publie son kit dédié aux réseaux de neurones en open source

Microsoft vient de publier son kit de développement CNTK (Computational Network Toolkit) en open source sur son dépôt GitHub. Dédié à l’apprentissage automatique et autres réseaux de neurones, il entre en concurrence directe avec le propre kit de Google, lui aussi en open source et lancé en novembre dernier.

Il s’agira finalement d’un domaine de plus dans lequel Microsoft et Google livreront bataille. Plus question cette fois de système d’exploitation, de suites bureautiques ou de services en ligne, mais de séduction des développeurs autour de l’intelligence artificielle. Les deux entreprises investissent lourdement dans ce domaine, et particulièrement dans des techniques comme l’apprentissage automatique et les réseaux de neurones, qui permettent notamment le tri d’une vaste quantité d’informations, et donc une recherche efficace.

CNTK, un kit dédié à l'apprentissage automatique et aux réseaux de neurones

Après Google et son TensorFlow en novembre dernier, Microsoft a répliqué lundi avec son CNTK, pour Computational Network Toolkit. Fraichement débarqué sur le dépôt GitHub de l’entreprise avec une licence MIT (la même que pour les autres produits en sources libres de Microsoft), il permet aux développeurs de créer des projets centrés sur l’intelligence artificielle, mais avec un critère particulier martelé par l’éditeur : les performances.

Initialement, Microsoft se servait d’autres kits. Lorsque la firme a débuté son travail sur la reconnaissance vocale, les chercheurs se sont retrouvés « frustrés » par le manque de performances et la manière dont les kits ne s’appuyaient pas assez sur la puissance disponible dans les GPU. Ils ont donc créé leur propre kit de développement, en partant sur l’idée d’exploiter autant de GPU que possible.

La société n’est pas peu fière d’annoncer que son CNTK surpasse de loin en performances les résultats obtenus avec quatre solutions concurrentes, Theano, Torch7, Caffe et bien entendu TensorFlow de Google (tests en date du 3 décembre). Selon Microsoft, le vrai avantage de son kit est qu’il sait exploiter le nombre croissant des GPU dans une infrastructure et accélérer d’autant les calculs. Dans ses propres projets, l’éditeur indique que le CNTK, couplé à Azure GPU Lab (mise en réseau de nombreux GPU), a permis de multiplier par dix la vitesse de traitement de la reconnaissance vocale pour l’assistant Cortana.

cntk

L'open source pour les développeurs, une nouvelle règle ?

On notera que le CNTK n’est en lui-même pas nouveau. Il avait été proposé pour la première fois en avril 2015, dans une optique de recherches académiques. Il était alors disponible sur Codeplex, mais sous licence open source nettement plus restrictive. Actuellement, la firme espère bien sûr que les développeurs manipuleront le kit comme bon leur semblera, mais surtout qu’ils participeront à l’enrichissement du projet, d’ailleurs très actif (3 429 commits à ce jour).

Les personnes intéressées pourront consulter le descriptif qui avait été donné au projet en décembre par Microsoft, ainsi que le dépôt GitHub pour récupérer le kit lui-même. On remarquera en tout cas qu'un nombre croissant de technologies dédiées aux développeurs passe en open source chez Microsoft actuellement. Il est probable que la firme souhaite à terme passer une majorité de ses outils sur ce modèle, avec pourquoi pas Visual Studio lui-même.

Écrit par Vincent Hermann

Tiens, en parlant de ça :

Sommaire de l'article

Introduction

CNTK, un kit dédié à l'apprentissage automatique et aux réseaux de neurones

L'open source pour les développeurs, une nouvelle règle ?

Commentaires (33)


Tous ça me semble très intéressant, il faudrait que je trouve un moment pour me documenter. J’ai encore un peu de mal avec le calcule de l’algo du gradient descent. C’est très … mathématique.











technet a écrit :



For more than 20 years, Microsoft has invested in advanced speech recognition research and development.





Hahaha, tout le monde garde un souvenir mémorable de la reconnaissance vocal de Vista (une présentation sans fail magistral, ce n’est pas une présentation MS)…



Microsoft sent le vent tourner contre lui. IL fera tout et n’importe quoi pour ne pas disparaitre dans les souvenirs et l’histoire du monde.



Pauvre microsoft, ce virus de l’informatique,  s’accrocher autant a la vie …



Adieu et sans regrets.


Pourtant, il ne s’agit pas d’une appli payante , mais bien d’un projet sous licence MIT alors pourquoi tant de haine ?








K2Death a écrit :



Pourtant, il ne s’agit pas d’une appli payante , mais bien d’un projet sous licence MIT alors pourquoi tant de haine ?



Parce que c’est Microsoft. Le reste n’existe et ne compte pas pour un hateboy <img data-src=" />









K2Death a écrit :



Pourtant, il ne s’agit pas d’une appli payante , mais bien d’un projet sous licence MIT alors pourquoi tant de haine ?





C’est un constat. L’open-source et le libre gagnent du terrain. Microsoft n’a plus le choix que de retourner petit a petit sa veste histoire de soigner son image.



&nbsp;



Il y a un rapport entre l’algorithme du gradient et les réseaux de neurones ?





Edit : Ce doit être ce gradient làplutôt.


Ne devrais tu pas être content qu’ils agissent de la sorte ?


Je me doutais bien, mais je suis d’humeur magnanime aujourd’hui ^^








K2Death a écrit :



Ne devrais tu pas être content qu’ils agissent de la sorte ?





Tu en es a ce niveau de reflexion ?&nbsp; <img data-src=" />









pentest a écrit :



Tu en es a ce niveau de reflexion ?  <img data-src=" />



C’est plutôt à toi qu’il faudrait poser la question, avec ton “microsoft = caca” (résumé de ton 1er commentaire)…



Durant l’apprentissage, oui.

Le but dit grossièrement est de modifier par petite touche tous les paramètres du réseau pour que l’écart entre les sorties d’un batch de valeur test et les résultats attendus soient le plus faible. Du coup, ça correspond exactement à ce qui est possible de faire avec un algo du gradient. Mais ça reste vachement pointu, il y a une histoire de rétro-propagation du gradient que je n’ai pas encore bien saisie.


Ok, merci. C’est ce qu’il me semblait saisir en lisant la page wikipedia. <img data-src=" />

Faudrait que je dégage du temps pour lire ça moi aussi.


Cela ne répond pas à la question



Est tu content ou non qu’ils agissent de la sorte depuis peu ?



Et un peu d’arguments me fera plaisir ;)


Je ne sais pas ce qu’il a, mais aujourd’hui il est d’humeur plus massacrante que d’habitude, rien qu’à voir ses commentaires sur le DDoS des sites du Sénat et de l’Assemblée.


J’avais vu ^^



Il y a des jours avec et des jours sans








K2Death a écrit :



Cela ne répond pas à la question




Est tu content ou non qu'ils agissent de la sorte depuis peu ?      






Et un peu d'arguments me fera plaisir ;)











Je recommence vu que l’édition a foirée.



Ni l'un ni l'autre. C'est de la poudre aux yeux. Je vais faire une comparaison mais je suis pas doué a ce jeu.      

Disons qu'une centrale nucleaire a pollué ton beau jardin et t'as obligé a quitter ta maison. tu serais content de voir une publicité vantant la securité avec de belles images, de jardins verdoyants, de biches et d'eau fraiche ?


et on vas en faire quoi de ces “neurones” ? si c est pour les utiliser encore plus mal que les notres le monde s en vas dechoir a vitesses grand V !!! armement,guerre cyber,cryptage decryptages robotique..bref on vas donner naissance a des Monstres dont on aura plus capacité a reguler ni controler car elle n auront plus de limites et meme si on leur met des “limites” ou des lois de ne pas s en prendre aux humains elles auront toujours un piratain pour en detourner le sens et donc les neurones auront appris d elle meme a detourner ces protections et ensuite meme a detourner les commandes exterieur “nous” pour ne plus pouvoir les contoller … bref un genre de skynet&nbsp;



on a deja du mal avec nous qui avons une conscience et une moral imaginez des machines …SCIENCE SANS CONSCIENCE !!

EINSTEIN A LUI MEME APPRIS DE SA FORMULE EMC2 EN DEVENANT LE PLUS FAROUCHE DÉFENSEURS DE LA PAIX …MAIS VOILA LE MAL ETAIS DEJA LA ET BOUM HIROSHIMA ETC ETC&nbsp;



PS: ne me parler pas de génétique soignante du cancer etc …ca créera encore plus de problèmes ..car cela ne sera pas fait pour la paix l altruisme ou l emancipation de l humain …bref comme Pandore nous ouvrons des voies qui ne seront plus reffermable a moins d aller au bout du bout de la folie du mental egotique et donc la&nbsp;








pentest a écrit :



Microsoft sent le vent tourner contre lui. IL fera tout et n’importe quoi pour ne pas disparaitre dans les souvenirs et l’histoire du monde.



Pauvre microsoft, ce virus de l’informatique,  s’accrocher autant a la vie …



Adieu et sans regrets.







En même temps, l’essor du logiciel libre est assez récent et ce nouveau modèle impose des changements radicaux qui ne sont pas évidents à intégrer du jour au lendemain par des entreprises aussi grandes que Microsoft.



Aucun PDG n’aurait d’ailleurs pu amorcer un virage vers le libre à l’époque ou leurs logiciels dominaient le monde de l’informatique. Les actionnaires n’auraient pas suivi.



Même si le chemin entre Microsoft et le libre est encore long, on ne peut que saluer la vitesse impressionnante avec laquelle cette entreprise évolue sous l’impulsion de son nouveau PDG.



Et ne crachons pas dans la soupe, un logiciel libre est un logiciel libre. Et s’il est estampillé Microsoft, tant mieux. C’est plutôt un signe de bonne augure.






Pas eu le temps de regarder en detail mais qu’est-ce que c’est au final ? Est-ce une librairie qui permet de créer des IA ? facon Encog ou est-ce des “IA” spécialisée pour certaines taches ?


Au passage, ceux qui font encore la confusion entre Open Source et Logiciel Libre, c’est le moment d’utiliser l’ami Google <img data-src=" />









Lafisk a écrit :



Pas eu le temps de regarder en detail mais qu’est-ce que c’est au final ? Est-ce une librairie qui permet de créer des IA ? facon Encog ou est-ce des “IA” spécialisée pour certaines taches ?





&nbsp;C’est du machine learning (apprentissage automatique)&nbsp;Un réseau de neurone n’essaye pas d’imiter un cerveau, c’est juste que la base de l’algo reprend le principe d’une synapse.

&nbsp;Le machine learning permet d’apprendre une structure dans les données et donc de déduire la valeur d’une variable en fonction des autres.&nbsp;Ca a beaucoup d’application pratique dans de nombreux domaine.



Les algo de deep learning sont basé sur des empilements de couches de réseau de neurone, et leurs performances sont depuis quelques années très appréciés en vision pour la reconnaissance d’image.



Euh, un reseau de neurone essais d’imiter le cerveau justement, pas dans son ensemble d’un coup car cela demanderait trop de ressources et surtout le cablage meme du cerveau nous est encore en grande partie inconnu.



Encog est une librairie qui implémente les divers reseaux de neurone qui existe et qui permet de créer des IA (qui restent donc a dimensionner et a designer). Le machine learning utilise des IA mais ce que je demande c’est au final est-ce que ce framework est equivalent a Encog (que j’ai succintement présenté) ou est-ce une couche encore au dessus ?


Pas vraiment d’accord, un réseau de neurone s’inspire de son fonctionnement, notamment sur l’activation d’une synapse, mais ça fait bien longtemps que tout le reste est de la pure optimisation mathématique sans rapport avec le cerveau.



C’est les IA qui utilisent du machine learning, pas l’inverse ;)&nbsp;



&nbsp;Encog est un framework du même niveau, c’est aussi du machine learning, qui propose d’autre types d’algo dont les réseaux de neurone “classique”, celui de Microsoft implémente que ceux de type “deep learning” ( en gros la V2 du réseau de neurone)








wince a écrit :



et on vas en faire quoi de ces “neurones” ? si c est pour les utiliser encore plus mal que les notres le monde s en vas dechoir a vitesses grand V !!! armement,guerre cyber,cryptage decryptages robotique..bref on vas donner naissance a des Monstres dont on aura plus capacité a reguler ni controler car elle n auront plus de limites et meme si on leur met des “limites” ou des lois de ne pas s en prendre aux humains elles auront toujours un piratain pour en detourner le sens et donc les neurones auront appris d elle meme a detourner ces protections et ensuite meme a detourner les commandes exterieur “nous” pour ne plus pouvoir les contoller … bref un genre de skynet 



on a deja du mal avec nous qui avons une conscience et une moral imaginez des machines …SCIENCE SANS CONSCIENCE !!

EINSTEIN A LUI MEME APPRIS DE SA FORMULE EMC2 EN DEVENANT LE PLUS FAROUCHE DÉFENSEURS DE LA PAIX …MAIS VOILA LE MAL ETAIS DEJA LA ET BOUM HIROSHIMA ETC ETC 



PS: ne me parler pas de génétique soignante du cancer etc …ca créera encore plus de problèmes ..car cela ne sera pas fait pour la paix l altruisme ou l emancipation de l humain …bref comme Pandore nous ouvrons des voies qui ne seront plus reffermable a moins d aller au bout du bout de la folie du mental egotique et donc la







Je me demande ce qui me fait le plus peur : une intelligence artificielle, ou quelqu’un capable de dire autant de trucs faux et avec autant de fautes d’orthographe…









wince a écrit :



et on vas en faire quoi de ces “neurones” ? si c est pour les utiliser encore plus mal que les notres le monde s en vas dechoir a vitesses grand V !!! armement,guerre cyber,cryptage decryptages robotique..bref on vas donner naissance a des Monstres dont on aura plus capacité a reguler ni controler car elle n auront plus de limites et meme si on leur met des “limites” ou des lois de ne pas s en prendre aux humains elles auront toujours un piratain pour en detourner le sens et donc les neurones auront appris d elle meme a detourner ces protections et ensuite meme a detourner les commandes exterieur “nous” pour ne plus pouvoir les contoller … bref un genre de skynet 



on a deja du mal avec nous qui avons une conscience et une moral imaginez des machines …SCIENCE SANS CONSCIENCE !!

EINSTEIN A LUI MEME APPRIS DE SA FORMULE EMC2 EN DEVENANT LE PLUS FAROUCHE DÉFENSEURS DE LA PAIX …MAIS VOILA LE MAL ETAIS DEJA LA ET BOUM HIROSHIMA ETC ETC 



PS: ne me parler pas de génétique soignante du cancer etc …ca créera encore plus de problèmes ..car cela ne sera pas fait pour la paix l altruisme ou l emancipation de l humain …bref comme Pandore nous ouvrons des voies qui ne seront plus reffermable a moins d aller au bout du bout de la folie du mental egotique et donc la







Tu devrais faire un peu d’IA, tu verra qu’avant que ces trucs ne deviennent une menace pour l’humanité, il y a encore de la marge. Parce que “intelligence artificielle”, il faut le dire vraiment très vite. En pratique, c’est tellement limité qu’on a pas encore réussi à en faire grand chose. (Et pourtant, les réseaux de neurones, c’est vraiment pas nouveau.)



Cela dit, un jour, ça pourrait devenir vrai, mais ce n’est pas encore pour aujourd’hui.



Reste que je suis d’accord sur ta réflexion sur les technologies. Dans sa fuite en avant vers la technologie et l’argent, l’humanité risque de finir très mal.



De mémoire l’une des applications c’est la lecture des codes postaux sur les enveloppes.



Si Skynet commence en détournant le courrier l’humanité court à sa perte. <img data-src=" />


Ce n’est pas parce qu’il y a de la marge que le “debat” doit etre remis a demain … bien que de mon avis debattre autant que;on veut, on peut mais cela ne changera rien au résultat final …


La on est d’accord, beaucoup “d’IA” aujourd’hui sont surtout de grosse fonctions mathématiques etc…



En tout cas merci pour la réponse, je vais donc rester sur du Encog car je m’intéresse plus aux concepts général que le deep learning








Lafisk a écrit :



Ce n’est pas parce qu’il y a de la marge que le “debat” doit etre remis a demain … bien que de mon avis debattre autant que;on veut, on peut mais cela ne changera rien au résultat final …







Je suis d’accord, d’autant que certains problèmes posés par la technologie vis à vis de l’humanité sont déjà une réalité tangible.



Comme tu le souligne, le problème, c’est qu’il y a bien peu de chance d’y changer grand chose dans le monde actuel. Un monde gouverné essentiellement par les intérêts financiers.



Tout ce que l’on peut souhaiter, c’est que la vision humaine évolue. Et qui sait, avec les problèmes actuels, le monde retrouvera peut être une vision plus saine dans les décennies à venir. C’est en tout cas ce que l’on peut souhaiter.









sr17 a écrit :



Je suis d’accord, d’autant que certains problèmes posés par la technologie vis à vis de l’humanité sont déjà une réalité tangible.







Sur ce point, bien d’accord et on est meme loin des problématique d’IA





Comme tu le souligne, le problème, c’est qu’il y a bien peu de chance d’y changer grand chose dans le monde actuel. Un monde gouverné essentiellement par les intérêts financiers.





Malheureusement, ce n’est pas du tout ce que j’avais en tete, meme si sur le fond je suis d’accord la aussi.



Je pensais plus au fait que le jour ou cette singularité arrivera, nous n’aurons pas d’autre choix que de la reconnaitre comme une nouvelle forme de vie. Je parle d’une veritable IA et c’est pas des trucs comme les lois d’azimov qui vont empecher qu’elle voudra prendre son independance.





Tout ce que l’on peut souhaiter, c’est que la vision humaine évolue. Et qui sait, avec les problèmes actuels, le monde retrouvera peut être une vision plus saine dans les décennies à venir. C’est en tout cas ce que l’on peut souhaiter.





En cela les IA, sans etre aussi sophistiquée que celle dont je parle juste au dessus, pourront nous aider, l’automatisation du travail fera en sorte qu’un jour nous n’auront plus besoin de travailler et nous devrons revoir notre modele economique qui est lui deja bien a l’agonie depuis longtemps (je suis honnetement surpris que le monde ce laisse mené a la baguette, par 1% de la popuplation, comme il le fait depuis si longtemps et surtout aujourd’hui)









Lafisk a écrit :





Malheureusement, ce n’est pas du tout ce que j’avais en tete, meme si sur le fond je suis d’accord la aussi.



Je pensais plus au fait que le jour ou cette singularité arrivera, nous n’aurons pas d’autre choix que de la reconnaitre comme une nouvelle forme de vie. Je parle d’une veritable IA et c’est pas des trucs comme les lois d’azimov qui vont empecher qu’elle voudra prendre son independance.







Tout à fait.





En cela les IA, sans etre aussi sophistiquée que celle dont je parle juste au dessus, pourront nous aider, l’automatisation du travail fera en sorte qu’un jour nous n’auront plus besoin de travailler et nous devrons revoir notre modele economique qui est lui deja bien a l’agonie depuis longtemps





Je dirais même que cela fait longtemps que le modèle économique aurait du être revu. Le chômage actuel n’est pas le fruit du hasard.





(je suis honnetement surpris que le monde ce laisse mené a la baguette, par 1% de la popuplation, comme il le fait depuis si longtemps et surtout aujourd’hui)





Oui, c’est étonnant, mais pas autant qu’on pourrait le penser.



Le problème, c’est que malgré la modernité, l’homme conserve la culture moyenâgeuse du temps de la terre qui se travaillait à la main : il faut se lever tôt, travailler dur pour obtenir, gagner le droit d’exister.



Ces idées obsolètes sont un terrain idéal pour les esclavagistes modernes qui tirent parti du déséquilibre croissant entre l’offre et la demande sur le marché de l’emploi.