yin

《吵架机器人》-资料

训练数据生成 1:自定义(根据生活中的经验自定义数据语料) 2:爬虫抓取 3:利用现有aigc进行生成部分 大模型选择 https://arxiv.org/pdf/2305.11206.pdf     lima: less is more for alignment https://huggingface.co/datasets/GAIR/lima https://arxiv.org/pdf/2305.15717.pdf The False Promise of Imitating Proprietary LLMs 根据这几篇论文我们得出:选择好的预训练模型 + 多样化的、高质量的数据集做微调。 less is more LLaMA
yin

CTranslate2 学习

通过CTranslate2 能够实现加速模型推理,降低transformer在内存中的使用。 CTranslate2 目前支持的模型: Transformer base/big, M2M-100, NLLB, BART, mBART, Pegasus, T5, Whisper GPT-2, GPT-J, GPT-NeoX, OPT, BLOOM, MPT, LLaMa 如何使用 pip install ctranslate2 translator = ctranslate2.Translator(translation_model_path) translator.translate_batch(tokens) generator = ctranslate2.Generator(generation_model_path) generator.generate_batch(start_tokens) BLOOM模型 ct2-transformers-converter --model
yin

freeswitch-chatPGT最新版本迭代

自从发布freeswitch-chatGPT项目之后,目前已经收获一些关注。 GitHub - laoyin/freeswitch_chatGPT: Using ChatGPT to connect with FreeSWITCH, creating an intelligent phone robot.Using ChatGPT to connect with FreeSWITCH, creating an intelligent phone robot. - GitHub - laoyin/freeswitch_chatGPT: Using ChatGPT to connect with FreeSWITCH, creating an intelligent phone robot.GitHublaoyin 我们也在最近发布了一个视频的demo供大家参考 智能外呼 的想法:
yin

freeswitch-chatGPT实现最强智能电话客服

结合我们之前分享的经验,如何打造一个智能的AI电话客服。 1:搭建sip通信环境,我们常用开源freeswitch。 最简单方式,使用docker环境进行部署。 GitHub - laoyin/freeswitch_docker_fileContribute to laoyin/freeswitch_docker_file development by creating an account on GitHub.GitHublaoyin git clone https://github.com/laoyin/freeswitch_docker_file.git docker build -t fs:v1.2 . docker run -itd --net=host fs:v1.2
yin
chatGPT-plugin看出openAI野心

chatGPT-plugin看出openAI野心

chatGPT的最近两件小事,1:plugin推出,2:开始招聘前端、iOS工程师 随着chatGPT plugin推出,让基于chatGPT做应用研发的又降低了门槛,最近openai又开始了前端工程师的招聘,足以看出openAI的野心。 Software Engineer, iOS 那就是做现在、未来智能AI的基建服务,足以颠覆现有技术服务生态。 很多人可能还没有看明白,openai,现在基于插件、+ 未来对前端的投入,很有可能打造一个类似App Store等基建服务, 每家公司可以开发自己的产品应用插件上架到chatGPT。 用户只需要chatGPT,聊天中解决生活中的所有问题,这就是AI的强大商业力量源泉,chatGPT太智能,你可以早上起来和chatGPT沟通今日的规划,几点点外卖(触发外卖应用plugin)几点约车(打车应用plugin),几点回家,几点开空调…………,他统统帮你完成,全部通过自然语言沟通,你完全不需要去操作复杂的app,复杂的流程,完美的提高了你的日常效率。 同理对于服务商来说,因为chatGPT超高的自然语言理解和推理能力,chat
yin

webrobot一种很调皮的视频机器人方案

闲来无聊,想起了之前一直有的一个方案。如何在前端实现视频机器人效果。 因为,我们很多对接第三方如trtc、华为、阿里、国外大厂的webrtc会议sdk。如果他们不开放后端推流和监听方案,你很难实现对应的机器人。 哪怕是开源的freeswitch、Jitsi、Janus、mediasoup、pion等,如果你不了解,无法进行2次开发,你能实现对应的视频机器人嘛? 所以,前端基于webrtc的媒体流方案,是可以一试的。因为webrtc的支持很多,你可以使用web、或者安卓等,都能实现对应的效果哦。 简单方案, 1:监听remote audio、video视频流。 2:实时asr语音转写,后端转写,并生成实时视频。 3:切换视频,如果播放对应的视频后,应切换到一个循环视频,给用户。 4:2步骤生成视频之后,通过前端在播放media stream 给remote,用户。 5:继续上述流程,实现一个很调皮方式。   目前实现了对应的语音监听、视频切换、
yin