目前共有5篇帖子。
字體大小：較小 - 100% （默認）▼  內容轉換：不轉換▼
 
點擊 回復
1664 4
transformer和diffusion
悄悄打开魔盒
大魔導士 十七級
回復
1樓 發表於：2024-4-4 01:26
目前的两个主流架构，分别处理离散和连续的数据，比如说语言和图像。

但是diffusion其实是训练方式，transformer是模型架构，所以diffusion也可以是transformer，DiT就是这样。

所以两个模型其实是可以融合的。


从transformer在长上下文的表现来看，已经可以有效处理1000万token，作为通用人工智能是合格的，但成本还是很高的，可能会限制其应用范围。
啊啊是谁都对
總編 二十四級
回復
2樓 發表於：2024-4-4 08:33
感谢介绍人工智能的相关知识

能否介绍一下transformer的常用训练方式？
圆环之理
上位魔導師 二十一級
回復
3樓 發表於：2024-4-4 09:30
哇
啊啊是谁都对
總編 二十四級
回復
4樓 發表於：2024-6-3 08:38
顺便一问，stable diffusion是不是其模型架构和训练方式都是diffusion？
 
悄悄打开魔盒：模型架构可以选择，sd 1.5和sdxl都是UNet，而sd3是transformer，训练方式是diffusion
  2024-6-17 19:43 回復
回覆帖子
內容：
用戶名： 您目前是匿名發表。
驗證碼：
看不清？換一張
（快捷鍵：Ctrl+Enter）
本帖信息
點擊數：1664 回複數：4
作者：悄悄打开魔盒
最後回覆：悄悄打开魔盒
最後回復時間：2024-6-17 19:43
公告板
 【新功能】现在手机版发帖也可以上传图片了
【公告】布拉斯侃吧（Purasbar）全站已启用HTTP/2访问以及TLS1.3加密
【新功能】楼中楼功能已上线
【公告】Purasbar http访问方式已关闭，从现在起只能通过https方式访问
【新功能】现在可以直接在发帖框中粘贴图片啦！
【新功能】搜索框提示功能上線了
【公告】第十五次補丁包安裝完畢
【公告】從現在開始，管理員將停止審批會員
【公告】阿斯兰侃吧现在开始支持简繁混合搜索
【公告】阿斯蘭侃吧啟用https訪問
【公告】从今天开始，本站实行主题编号制
【新功能】图片缩放功能上线了