C'est le premier ChatBot IA Windows personnel qui se destine au grand public ! Mais pas n'importe lequel : utilisant la génération augmentée par récupération (RAG), et l'accélération par TensorRT-LLM, il va vous permettre de traiter, trouver vos données personnelles sur votre PC Windows, interroger le bot pour avoir des réponses (qu'il faudra quand même vérifier), et même lier des vidéos YouTube afin de poser des questions sur leur contenu. Pour le faire fonctionner, il faudra une RTX 30 Ampere ou une RTX 40 Ada. NVIDIA assure que les résultats des recherches seront pertinents grâce à RAG, qui est une technique qui justement permet d'améliorer la précision et la fiabilité des modèles d'IA génératifs à l'aide de faits recueillis à partir de sources externes.
Comme exemple, NVIDIA cite le cas d'une vidéo YouTube que vous importeriez dans l'application via son URL, et pour laquelle vous poseriez une question sur son contenu. La réponse devrait être cohérente et juste, le contenu étant scanné rapidement afin de vous donner une réponse quasiment instantanée. L'autre point important pour les frileux et les paranoïaques, c'est que le bot s'exécute en local et ne fournit aucune donnée à aucune entité, ni cloud ni vis. C'est sécurisé nous dit-on dans l'oreillette.
Vous vous posez la question sûrement de l'intérêt d'un tel outil. Premièrement, il est agréable de voir qu'un constructeur développe des outils optimisés pour son matériel. Deuxièmement, qu'est ce que pourrait vous apporter un tel outil au quotidien ? On pourrait dire une recherche plus précise et plus rapide que celle d'un Google ou d'un Lycos (mode vieux ON), mais c'est surtout ceux qui ont masse de documents sur leur machine qui trouveront un intérêt à la chose, de pouvoir retrouver facilement les documents et d'interroger même le bot quant au contenu pour faire des recherches rapides, c'est mieux que de devoir se farcir les 70 pages du kamasutra par exemple, encore que pour cet exemple, c'est pas si sûr !
Voilà un exemple à travers la vidéo qui vous permet de cerner le truc, parce qu'il faut le dire, ça reste encore compliqué à appréhender comme outil si on est cartésien. Est-ce une bonne chose cette IA qui envahit tout ? Chacun se fera son opinion, mais le plus important reste de recouper les sources, ce n'est pas la voix divine qui sort de l'IA !
Vous avez le lien pour télécharger l'application ci-dessous, mais il vous faudra une sacrée connexion, car elle pèse 35 Go ! Et l'installateur va télécharger en plus des données, dont le fameux moteur Mistral 7B INT4.
Testez le truc avec votre RTX 30 / RTX 40 !
C'est bien ça le problème. L'IA décontextualise, sort des trucs on sait pas d'où ça sort...
Chez vous, vous citez vos sources, on connait votre sérieux et votre ancienneté dans le milieu. Et on sait que vous êtes des humains, pas toujours infaillible avec des partis pris inconscient ou non, etc... Bref, au-delà des info que vous nous donnés, on a des billes pour se faire une idée critique de leur pertinence.
L'IA nous abrutis encore plus que la TV...
Mais comme un gros moteur de recherche sur ses disques dur, là ça peut être sympa 🙂
C'est clairement en ce sens que cela m'intéresse !
Merci pour avoir relayé la niouze ;)
Oui dans ce cas de figure, ça peut-être intéressant. Après tout ce qui est IA je reste méfiant quand c'est intrusif. Et surtout ça enlève tout esprit critique, et moi qui suis de la vieille école - oui un vieux con aussi - je vous ça d'un oeil méfiant. Déjà que pour le COVID on a eu 60 millions de médecins sans compétences, l IA risque de donner des certitudes à des gens qui n'en ont pas et qui auront la certitude d'être des sachants accomplis. Mais c'est pour cette raison que j'ai fait le billet car dans la sphère privée et dans ce cadre ça peut être un super outil que j essaye en ce moment même :)
Ça va être la foire à la saucisse dans les travaux des gens qui prendront des vidéos youtube random pour étayer leurs travaux ou présentations (ou les élèves leurs devoirs), avec le nombre de trous de balle qui font de vidéos complotistes et/ou remplies d'inepties, si l'IA pioche dans ces vidéos. Va falloir inventer l'IA qui trie les vidéos avant de fouiller dedans (ou nous permettre de les utiliser pour lui demander de fouiller dedans) et ne retient que les vidéos dont le contenu est fiable, et ça, ce n'est pas demain la veille.
Perso j'utilise GPT4All avec le modèle mixtral-8x7B, je m'en sert comme d'un dictionnaire encyclopédique pour poser des questions en anglais sur des connaissances générales (médicales aussi), et sur la signification d'expressions ou d'abréviations en Anglais
C'est vraiment très efficace, bien différent d'une simple recherche Google
En revanche, pour ce qui est de la Covid-19, j'ai fait confiance à Didier Raoult, sauf pour l'hydroxy chloroquine, bien sur
Nous à l'hosto, on a fait une étude randomisée sur son traitement magique et toute la planète a fait de même : il a été abandonné très vite car sans résultat. Raoult a fait comme CHatgpt, il a transformé les gens en médecins et sûrs de leurs connaissances alors qu'ils n'en avaient pas. Sans réalité du terrain, ça ne valait rien. Et le fait que tu accordes toute confiance à ce truc fait que moi ça m'inquiète beaucoup.
Ah non mais j'ai jamais fait confiance à l'hydroxychloroquine. Mais Raoult a dit d'autres choses qui etaient interessantes
Oui, mis encore une fois, décontextualisé. Tu ne sais pas d'où ces informations proviennent, et ne peut pas évaluer leur fiabilité.
L'idée est bonne mais j'ai peur que la base donnée qu'aura accès l ia soit trop réduite