Collaborer avec les equipes de developpement LLM pour integrer les SDK dans les systemes embarques des vehicules
Developper un middleware d'interaction vocale pour coordonner les pipelines
ASR (reconnaissance vocale automatique), NLU (comprehension du langage naturel) et TTS (synthese vocale)
Concevoir une solution hybride integrant les LLM en nuage et en peripherie, et gerer l'arbitrage entre les deux environnements
Optimisation des performances
Optimiser la latence de reponse de bout en bout
Controler l'utilisation du processeur et de la memoire, et accelerer le demarrage a froid
Exigences:
Experience professionnelle : 3 ans et plus
Maitrise du developpement embarque en C++11/14
Experience pratique avec Linux ou Android Automotive OS
Comprehension des concepts LLM, Agent, RAG et des frameworks/runtime d'inference associes
Familiarite avec la communication inter-thread et inter-processus
A propos de Cerence Inc. Cerence Inc. (Nasdaq : CRNC et www.cerence.com) est le leader mondial dans la creation d'experiences uniques et marquantes pour le monde automobile. Issue d'une scission de Nuance en octobre 2019, Cerence est une entreprise independante qui s'est rapidement imposee comme chef de file dans le domaine des assistants vocaux pour vehicules. Elle collabore avec les plus grands constructeurs automobiles -- de Ford et Fiat Chrysler a Daimler, Audi et BMW, en passant par Geely et SAIC -- pour transformer la facon dont une voiture ressent, reagit et apprend. Son expertise repose sur plus de 20 ans de leadership dans l'industrie et sur plus de 500 millions de vehicules en circulation aujourd'hui, dans plus de 70 langues. Alors que Cerence poursuit sa croissance ambitieuse, nous cherchons a accueillir une nouvelle personne dans notre equipe pour contribuer a batir l'avenir de la voix et de l'intelligence artificielle dans les vehicules. Il s'agit d'une occasion stimulante de rejoindre une equipe mondiale passionnee et devouee, et de participer a une innovation significative dans une industrie en pleine expansion. EMPLOYEUR EQUITABLE Cerence s'engage fermement a offrir l'egalite des chances en matiere d'emploi (EEO) et a respecter toutes les lois federales, provinciales et locales interdisant la discrimination a l'embauche fondee sur l'age, la race, la couleur, le genre, l'identite de genre, l'expression de genre, le sexe, les stereotypes sexuels, la grossesse, l'origine nationale, l'ascendance, la religion, le handicap physique ou mental, l'etat de sante, l'etat civil, le statut de citoyennete, l'orientation sexuelle, le statut militaire ou veteran protege, les informations genetiques et toute autre classification protegee. Consultez notre politique sur l'egalite des chances en matiere d'emploi. Securite au travail Tous les employes actuels et futurs doivent faire preuve de vigilance dans l'application des politiques de securite en milieu de travail. Cela inclut :
Suivre les protocoles de securite et les formations pour maintenir un environnement de travail securitaire
Respecter les procedures pour signaler toute activite suspecte
Adherer aux procedures de securite de l'entreprise pour assurer leur efficacite
Se conformer aux reglements et politiques internes
Encourager une politique de tolerance zero envers la violence au travail
Posseder des connaissances de base en securite de l'information et en protection des donnees (ex. : comment proteger et manipuler les donnees)
Senior Software Developer - LLM Job description:
System Integration Development
Interface with LLM development teams to integrate SDKs into in-vehicle systems
Develop voice interaction middleware for coordinating ASR (Automatic Speech Recognition), NLU (Natural Language Understanding), and TTS (Text-to-Speech) pipelines
Design hybrid solution to integrate cloud LLM and edge LLM, take care of the arbitration between cloud and edge
Performance Optimization
Optimize end-to-end response latency
CPU and memory footprint control and cold-start acceleration
Requirement?
Working experience: 3 years and above
Proficient in C++11/14 embedded development
Hands-on project experience with Linux/Android Automotive OS
Understanding of LLM, Agent, RAG and corresponding inference framework/runtime
Familiar with Inter-Thread Communication and Inter-Process Communication
Cerence Inc. (Nasdaq: CRNC and ) is the global industry leader in creating unique, moving experiences for the automotive world. Spun out from Nuance in October 2019, Cerence is a new, independent company that has quickly gained traction as a leader in the automotive voice assistant space, working with all of the world's leading automakers - from Ford and Fiat Chrysler to Daimler, Audi and BMW to Geely and SAIC - to transform how a car feels, responds and learns. Its track record is built on more than 20 years of industry experience and leadership and more than 500 million cars on the road today across more than 70 languages. As Cerence looks to the future and continues an ambitious growth agenda, we need someone to join the team and help build the future of voice and AI in cars. This is an exciting opportunity to join Cerence's passionate, dedicated, global team and be a part of meaningful innovation in a rapidly growing industry. EQUAL OPPORTUNITY EMPLOYER Cerence is firmly committed to Equal Employment Opportunity (EEO) and to compliance with all federal, state and local laws that prohibit employment discrimination on the basis of age, race, color, gender, gender identity, gender expression, sex, sex stereotyping, pregnancy, national origin, ancestry, religion, physical or mental disability, medical condition, marital status, citizenship status, sexual orientation, protected military or veteran status, genetic information and other protected classifications. Cerence Equal Employment Opportunity Policy Statement. All prospective and current Employees need to remain vigilant when it comes to executing security policies in the workplace. This includes: - Following workplace security protocols and training programs to familiarize with the ways to maintain a safe workplace. - Following security procedures to report any suspicious activity. - Having respect for corporate security procedures to allow those procedures to be effective. - Adhering to company's compliance and regulations. - Encouraging to follow a zero tolerance for workplace violence. - Basic knowledge of information security and data privacy requirements (e.g., how to protect data & how to be handling this data). - Demonstrative knowledge of information security through internal training programs.