广告投放系统(腾讯混元AI大模型落地广告投放,显著降本增效背后,三大技术引擎揭秘)

Posted

篇首语:没有爱的教学,宛如无水池塘,终将群鲜枯竭。本文由小常识网(cha138.com)小编为大家整理,主要介绍了广告投放系统(腾讯混元AI大模型落地广告投放,显著降本增效背后,三大技术引擎揭秘)相关的知识,希望对你有一定的参考价值。

广告投放系统(腾讯混元AI大模型落地广告投放,显著降本增效背后,三大技术引擎揭秘)

智东西(公众号:zhidxcom)

作者 | ZeR0

编辑 | 漠影

智东西6月21日报道,腾讯多模态AI大模型已经开始在广告投放领域发挥出降本增效的价值。

广告技术的发展正让“降本增效”愈发可量化和感知,比如目前互联网广告平台开始以GMV(成交金额)或ROI(投入产出比)为营销效果的评估标准。

一次更高效的广告投放,本质上是在合适的场景,让对的广告出现在对的人面前。这离不开广告平台对广告内容和用户群体的深刻理解,并在他们之间达成更准确的匹配。

针对广告投放追求的更低成本、更优效果目标,腾讯广告已经交出一份新答卷:首先以腾讯混元AI大模型助力系统深刻理解广告内容,其次以精排大模型提升广告和用户的匹配准确率,这两者的底层,还都离不开腾讯机器学习平台太极

据悉,相比以前的小模型算法,腾讯广告精排大模型已累计给广告主带来15%的GMV提升;太极机器学习平台在加速混元AI大模型的训练时,效率高于业界其他方案3.7倍。

一、混元AI大模型:让系统深度理解广告内容的核心引擎

近两年国内外AI大模型快速发展,不仅持续迈向更高的参数规模及模型大小,而且不断刷新文本和图像理解水平。

大模型的这些核心能力,对广告推荐同样大有裨益。广告中既有艺术和创意,也有感情和期待,推荐系统要首先需理解广告中蕴含的丰富信息,才能做出恰当的推荐。

腾讯自研的深度学习大模型——腾讯广告混元AI大模型,便是广告系统理解内容的核心引擎。

腾讯广告混元AI大模型,是一个具有千亿参数的大模型,能够准确理解文字和图像中蕴含的各个层面的信息。它可以把文字、图像、视频作为一个整体来理解,这样不仅对广告的理解更准确,也更符合平台用户对广告的整体感受。

混元AI大模型的多模态理解能力,可以有效的加深推荐系统对于广告的理解,从而更精准的将广告推荐给合适的人群,提高用户体验以及广告转化效果。此外,该模型还有文字&图像&视频综合生成能力,已经以产品的形式在腾讯广告投放平台提供给每一位广告主,可以极大的提升广告制作的效率。

图生视频功能,可以将静态的图片自动生成不同样式的视频广告;文案助手功能,可以为广告自动生成更恰当的标题,提升广告的效果;文生视频功能,未来只需提供一句广告文案,就可以自动生成与之匹配的视频广告。

HunYuan_tvr模型架构示意图

经过与类似的图文理解模型做全面的正面对比,目前腾讯广告混元AI大模型横扫跨模态检索领域5大权威测评集大满贯、多模态理解领域国际权威榜单VCR上排名第一、CLUE自然语言理解分类榜及CLUE总榜登顶,比大部分模型的图文综合理解能力更强。

二、精排大模型:千亿级推理参数,让系统更高效匹配广告和人群

在理解广告之后,广告平台还面临一个挑战:把广告展示给合适的人群。模型在解决这一挑战中发挥了核心作用,特别是精排模型。

广告平台上有数以万计的广告主、数以亿计的用户,即便经过广告定向的筛选,匹配一次用户请求的广告仍然可能有成千上万。具体向用户展示哪一个或者哪几个广告才能在尽量符合用户偏好的同时为广告主带来最大的收入,这是一个极为复杂的多对多匹配问题,需要精细的预估和排序。

腾讯广告精排大模型即为解决这个难题而设计。其单模型推理参数达千亿级别,序列化后大小可达数百GB,浮点数计算量最高每秒超过10亿次,在行业位于先进水平。

如此大的模型,最明显的收益是可以利用更多的特征和样本数据,学习得到更强大更精确的模型,进而实现更高效的匹配,比如:

  • 可以基于更长期、更细致的人群数据,在合规前提下强化用户洞察,对人群的理解更清晰准确;
  • 可以基于更多场景、页面、上下文信息,在跨场景联合建模的同时强化场景差异性表达,降低维护成本,提升用户广告体验;
  • 可以基于更长期的样本数据,配合恰当的模型结构和学习算法,平衡不同行业不同稀疏程度广告主投放目标的学习,提升投放效果;
  • 可以更好地基于混元AI大模型在广告理解层面得到的丰富信息,实现更好的泛化和广告冷启动。

腾讯广告精排大模型各项算法指标相对于百亿规模小模型有显著提升,全流量上线后,用户可以看到更符合自己兴趣的广告,广告主也可以期待有更高的投放回报。

相比以前的小模型算法,腾讯广告精排大模型已累计给广告主带来15%GMV提升。

当前精排大模型的效果提升还只是一个开始,大模型平台系统和模型算法会持续升级,与此同时,大模型能力也会逐步向召回、粗排等其他环节辐射,不断抬高效果的天花板,为用户和广告主提供更佳的广告体验。

在实现高效广告匹配的同时,腾讯广告也是隐私保护的技术探索者和实践者。

早在2019年,腾讯广告便获得ISO/IEC27001和ISO/IEC 29151两项国际认证,在信息安全和隐私保护能力与国际主流标准全面接轨。此外,腾讯广告也在联邦学习等隐私计算技术持续深耕,助力广告程序化交易联合建模,在保障双方的数据安全前提下实现合作。

三、太极机器学习平台:支持TB级大模型训练推理

腾讯广告平台需要为亿级的用户、海量并不停增加的广告内容提供服务。

大模型+高访问压力,对广告平台的承载能力和计算能力都提出了很高的要求。腾讯广告精排大模型的要求尤其苛刻,不仅模型大小是业界顶级,还需在用户等待页面加载的极短时间内就完成广告匹配。

为了满足这些规模和性能要求,腾讯专门自研搭建了太极机器学习平台,可支持10TB级模型训练、TB级模型推理和分钟级模型发布上线,扩展集群规模则可支持更大的模型训练和推理,为实际业务提供大模型的情况下,同时具有很高的性能,达到行业领先水平。

太极机器学习平台采用了分布式参数服务器架构,这是业界第一梯队企业们公认的最佳选择。

这种架构的特点是,存储模型参数和执行模型计算,这两种任务在分别的服务器上运行,增加更多服务器就能支持更大、计算需求更高的模型。

太极机器学习平台中的参数服务器系统AngelPS也是腾讯自研的成果,该系统不仅能承载10TB级模型的训练,对多维特征融合、复杂模型结构等更高级、更前瞻性的功能也有优秀支持。

同时,太极机器学习平台还具备超大模型在线推理服务的能力。

推理计算方面,它既支持常规的CPU计算,也支持复杂模型的GPU计算加速;存储上,根据在线推理模型大小,自适应选择小模型本地内存加载和大模型AngelPS远程查询的部署策略;在线服务运营上,平台具备多级容灾能力,脏模型秒级回滚能力,以及完备的系统和业务运行实时指标监控和报警系统。

目前,千亿参数、TB规模训练,百GB规模预测的腾讯广告精排大模型能短时间内在太极上完成计算、提供可靠的广告匹配结果。

不仅如此,为了提供周全的可靠性、紧跟潮流的匹配能力,上百GB规模的腾讯广告精排大模型需要有多个副本同时运行,每天还需根据当天的真实用户行为持续学习,这些都依赖太极机器平台强大的承载能力和周全的功能。

太极机器学习平台有突出的模型训练硬件加速能力。以混元AI大模型的训练为例,太极的加速方案高于业界其他方案3.7倍,有效提升了模型的训练效率。

为了让开发者易学、易用,太极机器学习平台也提供了对常见的TensorFlow模型和API的支持,同时还提供了多种改进,降低TensorFlow中复杂的性能优化、内存管理带来的困扰。

如果将太极机器学习平台比作一条多车道的高速公路,大模型就像许许多多的重型卡车,可以在高速公路上高速行驶;相比之下,较落后的技术平台就像是乡间的泥泞小道,只通行一辆小车也颠簸、缓慢。

当前具备领先地位的太极机器学习平台,有助于提供更好的基建体系,助力大模型们高速运行。

结语:落地广告推荐,打赢大模型关键一仗

在腾讯太极机器学习平台之上,混元AI大模型和腾讯广告精排大模型共同完善优化了广告理解、用户理解、广告和用户匹配的整个流程,提升了对广告的理解、广告和人群的匹配效率,以及广告主的推荐精准度和转化效率。

在“降本增效”的目标指引下,关注并提升GMV 的腾讯广告平台技术已打赢大模型落地的关一仗。接下来,腾讯广告计划不断基于此优化模型,帮助广告主达成更高GMV。

相关参考

控制曝光的因素(腾讯流量解密,腾讯视频广告营销详解之资源应用指南(竞价))

投放端自助购买登录腾讯广告投放管理平台选择腾讯新闻与腾讯视频版位购买方式:基于广告位底价实时竞价,支持CPC/CPM支持推广类型:移动应用推广、电商推广、网页外链推广等支持能力:应用直达/延迟深度链、快应用枫页...

广告制作推广(招商加盟行业如何做广告推广?招商加盟推广方式有哪些?)

...视频,爱奇艺视频,优酷视频等等主流视频平台。招商加盟广告投放从以下目标人群定向、创意、落地页三个维度进行分析1、人群定向招商加盟行业在推广前,首先要确定的就是目标-投放人群。你想吸引什么样的人加盟,你就要千方...

广告礼品套装(超400家游戏公司礼盒都长什么样?2023年新春礼盒大揭秘)

...大仓库)。游戏日报君简单筛选了部分2023年春节礼盒:腾讯腾讯历年的礼盒往往都是简约大气为主,今年也不例外。红色礼盒中包含了精美笔记本以及对联红包,还有兔年的小企鹅,与往年差不太多。腾讯广告则是行李箱加兔...

微信朋友圈推广平台(微信朋友圈广告加盟 腾讯广告官方代理)

全媒体广告全媒体广告代理全媒体广告加盟‌‌全媒体广告全媒体广告代理全媒体广告加盟全媒体广告全媒体广告代理全媒体广告加盟全媒体广告是什么吗?全媒体广告之所以称之为全媒体广告,也就是说它不是单一的某一个媒...

广告装饰材料批发市场(​广告场景下双边市场的实验设计)

...Counterfactualinterleaving实验5.列联表联合采样6.双边市场模拟系统

怎么在朋友圈做广告(微信朋友圈广告怎么投放的?)

...们必定要抓紧机会了。在交际广告傍边,做得最好的当属腾讯互联网公司了,旗下拥有着微信、QQ等两大交际软件,为腾讯带来了海量的用户资源,给交际广告提供了坚实的基础,今天我就给大家来介绍微信朋友圈广告投进常见...

模型设施(大模型狂欢背后:AI基础设施的“老化”与改造工程)

...大的模型(MUM、OPT、GPT-3、Megatron),而其他专注于生产系统的公司也相继扩大其原有模型,并取得良好成果。一切如火如荼,然而,鲜少有人提及,庞大的模型给现有的AI基础设施和开发流程带来了诸多实际性挑战。大模型的权...

广告牌常用材料(落地广告牌造型设计 大型落地广告牌 户外大型广告牌 户外创意广告牌)

七子广告景观广告牌设计建造——落地广告牌造型设计大型落地广告牌户外大型广告牌户外创意广告牌七子广告景观广告牌设计建造——落地广告牌造型设计大型落地广告牌户外大型广告牌户外创意广告牌地标广告牌的表现样式...

朋友圈广告植入(微信朋友圈广告怎么投放?)

...带有官方标注的“广告”两个字!广告优势:可以把商家广告投放在指定范围内、

广告终端机(OLED立式落地广告机的用途)

  说到OLED立式落地广告机,你可能不太清楚它到底是干什么的,但我只需要说这些地方,你就清楚了。以前去电影院的时候,发现电影院的大厅里播放着各种比较新的或者是即将上映的电影的海报,甚至是由于看到各种各样...