Skip to content
/ LMFlow Public
  • Notifications You must be signed in to change notification settings
  • Fork 825
  • Star 8.3k
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

Sign up for GitHub

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Jump to bottom

支持中文的checkpoints是做了什么优化？ #159

Closed
xinj7 opened this issue Apr 7, 2023 · 4 comments
Closed

支持中文的checkpoints是做了什么优化？ #159

xinj7 opened this issue Apr 7, 2023 · 4 comments

Comments

@xinj7
Copy link

xinj7 commented Apr 7, 2023 •
edited
Loading

我看其他issue里提问中文的支持效果怎么样，回答的还是说不太行，因为训练数据里中文不多。
我理解llama本身对中文的支持可以说是没有，不知道你们做了哪些优化呢？词表？还是只在中文instruction数据上finetune了

有个大概的描述的话更清楚，谢谢~
@research4pan
Copy link
Contributor

research4pan commented Apr 7, 2023

Thanks for your interest in LMFlow! We've extended the finetune dataset with more Chinese samples. That's the main modification we've made. Hope that answers your question 😄

感谢您关注LMFlow！我们主要是在finetune数据集上加入了更多的sample，其他基本没有做更大的改动。希望我们的回答能帮助到您 😄

@faradayin
Copy link

faradayin commented Apr 7, 2023

加了多少sample，大概？

@shizhediao
Copy link
Contributor

shizhediao commented Apr 7, 2023 •
edited
Loading

大概加了70K左右，主要是BELLE的0.5M数据。还需要加入更多更高质量的数据

@shizhediao
Copy link
Contributor

shizhediao commented Apr 19, 2023

This issue has been marked as stale because it has not had recent activity. If you think this still needs to be addressed please feel free to reopen this issue. Thanks

@shizhediao shizhediao closed this as completed Apr 19, 2023
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Assignees
No one assigned
Labels
None yet
Projects
None yet
Milestone
No milestone
Development

No branches or pull requests
4 participants
@faradayin @shizhediao @research4pan @xinj7

Footer

© 2024 GitHub, Inc.

玻璃钢生产厂家大连神像玻璃钢雕塑闽侯玻璃钢雕塑工艺品企业金山优质玻璃钢雕塑荆门玻璃钢花盆山东玻璃钢雕塑摆件开发肇庆玻璃钢鼠年雕塑保定玻璃钢雕塑设计西安玻璃钢雕塑生产商自贡玻璃钢关公雕塑绍兴玻璃钢雕塑厂萍乡景区玻璃钢雕塑商场美陈作品山东玻璃钢卡通雕塑价格曲阳玻璃钢抗日战士雕塑展示肇庆玻璃钢动物雕塑价格江苏商业街玻璃钢雕塑厂家澳门玻璃钢花盆铜陵浮雕玻璃钢雕塑厂家南京玻璃钢雕塑生产商成都玻璃钢雕塑雕刻厂家福建玻璃钢花盆订购全国玻璃钢雕塑价格如何计算商场产品美陈蚌埠玻璃钢雕塑北京抽象玻璃钢雕塑销售厂家南京溧水美陈商场阜阳大型玻璃钢雕塑优势佛山街道宣传玻璃钢雕塑玻璃钢雕塑性价比怎么样郑州定做玻璃钢卡通雕塑香港通过《维护国家安全条例》两大学生合买彩票中奖一人不认账让美丽中国“从细节出发”19岁小伙救下5人后溺亡 多方发声单亲妈妈陷入热恋 14岁儿子报警汪小菲曝离婚始末遭遇山火的松茸之乡雅江山火三名扑火人员牺牲系谣言何赛飞追着代拍打萧美琴窜访捷克 外交部回应卫健委通报少年有偿捐血浆16次猝死手机成瘾是影响睡眠质量重要因素高校汽车撞人致3死16伤 司机系学生315晚会后胖东来又人满为患了小米汽车超级工厂正式揭幕中国拥有亿元资产的家庭达13.3万户周杰伦一审败诉网易男孩8年未见母亲被告知被遗忘许家印被限制高消费饲养员用铁锨驱打大熊猫被辞退男子被猫抓伤后确诊“猫抓病”特朗普无法缴纳4.54亿美元罚金倪萍分享减重40斤方法联合利华开始重组张家界的山上“长”满了韩国人？张立群任西安交通大学校长杨倩无缘巴黎奥运“重生之我在北大当嫡校长”黑马情侣提车了专访95后高颜值猪保姆考生莫言也上北大硕士复试名单了网友洛杉矶偶遇贾玲专家建议不必谈骨泥色变沉迷短剧的人就像掉进了杀猪盘奥巴马现身唐宁街 黑色着装引猜测七年后宇文玥被薅头发捞上岸事业单位女子向同事水杯投不明物质凯特王妃现身！外出购物视频曝光河南驻马店通报西平中学跳楼事件王树国卸任西安交大校长 师生送别恒大被罚41.75亿到底怎么缴男子被流浪猫绊倒 投喂者赔24万房客欠租失踪 房东直发愁西双版纳热带植物园回应蜉蝣大爆发钱人豪晒法院裁定实锤抄袭外国人感慨凌晨的中国很安全胖东来员工每周单休无小长假白宫：哈马斯三号人物被杀测试车高速逃费 小米：已补缴老人退休金被冒领16年 金额超20万

玻璃钢生产厂家 XML地图 TXT地图 虚拟主机 SEO 网站制作 网站优化