分享好友 资讯首页 频道列表

快速打造百款垂直类生成式AI应用,HIX.AI做对了什么?

2024-12-27 16:58

概 述

HIX.AI是一家专注于人工智能应用程序开发的科技公司,总部位于新加坡,为全球用户提供强大的一体化人工智能工具,致力于重新定义用户写作、沟通和完成工作的方式。基于亚马逊云科技生成式AI与计算服务,HIX.AI围绕AI写作工具、多功能AI助手和AI搜索引擎三大场景,在1个月的时间内,完成了重点功能的开发与上线,同时降低了30%的成本。

30%►综合成本降低

99.99%►应用程序可用性

一个月►完成重点功能从开发到上线全过程

数小时将产品迭代升级时间从数天缩短至数小时

3天内►将机器人流程自动化技术云上部署时间从4-5周缩短至3天内

目前,HIX.AI使用的亚马逊云科技产品与解决方案包括:Amazon Bedrock、Amazon OpenSearch Service、Amazon EC2 G4实例等。

图片

机会 | 生成式AI技术突破式发展

垂直领域应用迎来增长机遇

近年来,生成式AI技术发展迅猛,在自然语言处理、图像生成等领域展现出了前所未有的潜力,也催生了大量针对特定行业和应用场景的垂直解决方案,全球各类用户对高效、智能化工具的需求进一步激增。HIX.AI敏锐捕捉到这一趋势,面向美国、德国、英国、法国、印度,以及东南亚和南美洲等国家和地区的用户群体,开发了一系列生成式AI工具类应用,并受到了广泛好评。

生成式AI技术尚处于早期发展阶段,HIX.AI在模型打磨、技术应用的过程中也面临着诸多挑战。例如,在生成式AI技术的实际应用中,可能会出现“大模型幻觉”,即生成的内容看似合理但是缺少准确性,影响用户的使用体验。同时,随着模型复杂度增加,后端系统容易出现错误,需要专业的技术支持人员根据场景进行反复打磨优化,提高功能迭代效率。在成本方面,由于生成式AI技术需要大量的计算资源,这也导致HIX.AI面临较大的成本压力。

在2022年,HIX.AI便和亚马逊云科技开启了合作。亚马逊云科技覆盖全球的基础设施与广泛而深入的云服务,给HIX.AI留下了深刻印象。随着生成式AI的发展,亚马逊云科技还提供了完整的端到端生成式AI技术堆栈,涵盖高性价比的加速芯片,以Amazon Bedrock为代表的模型构建与应用工具,以及多款行业领先的基础模型等,可帮助HIX.AI克服模型应用方面的诸多挑战。也正是基于上述考量,HIX.AI选择了亚马逊云科技继续作为其深入打造生成式AI应用的合作伙伴。

“亚马逊云科技在生成式AI方面具备领先的基础模型能力,帮助我们更高效地开发、优化并部署生成式AI应用,同时确保了产品的高性能和稳定性。”

——Peter Zhou

HIX.AI CTO

图片

解决方案 | 基础模型、向量数据库、

计算实例,为生成式AI工具的开发

提供全面保障

针对HIX.AI的需求,亚马逊云科技通过Amazon Bedrock、Amazon OpenSearch Service、Amazon EC2 G4实例等服务,帮助其快速打造并上线了涉及AI写作工具、多功能AI助手、AI搜索引擎三类场景的多款应用工具。

提示工程+向量检索,助力AI搜索引擎为多语种用户提供准确率高达90%的搜索服务

在AI搜索引擎开发中,HIX.AI通过Amazon Bedrock和Amazon OpenSearch Service成功打造了精准且智能的多语言搜索服务。该搜索引擎提供的搜索结果基于多源数据整合,用户每次提出问题时,系统会从两大渠道采集资料:一方面是实时抓取互联网搜索结果,提供公开的实时信息;另一方面则是通过Amazon OpenSearch的向量数据库,从存储的知识内容中匹配相关信息,包括链接、图片和文本。最终,系统整合并输出这两部分的内容,从而优化了搜索结果的深度和准确性。例如,当用户提出特定的学术问题时,搜索引擎不仅能返回网络上的实时文献,还能从内部知识库中提取高质量内容,整合输出高度相关的综合答案。

值得指出的是,多语种支持是HIX.AI搜索引擎的亮点之一。Amazon Bedrock在多语种理解方面具有突出优势,使搜索引擎能够精准处理全球各地用户输入的不同语言,并以相同语言生成回答。在该功能的开发过程中,亚马逊云科技团队与HIX.AI紧密合作,基于具体语言场景反复测试和优化,通过提示工程(prompt Engineering)显著提升了模型的语言识别和生成能力。比如,当一位欧洲用户用德语提问时,经过优化后的大模型能够始终准确地以德语回复,有效降低因“大模型幻觉”造成的其他语种回复的误差。优化后,搜索引擎的语言识别与回答准确率从80%提高到了90%,确保用户获得高质量的搜索体验。

向量数据库加持,让AI写作工具成为更懂用户的智能助手

Amazon Bedrock中可灵活调用多款高性能基础模型,以卓越的内容生成能力,为HIX Writer、HIX Email Generator等AI写作工具提供了底层支撑。基于Amazon Bedrock生成的文本兼具准确性和创意性,助力AI写作工具在生成搜索引擎优化(SEO)内容、博客文章和营销文案等方面生成高质量的内容。

同时,通过Amazon OpenSearch Service的向量检索技术,HIX.AI还实现了写作工具的个性化和知识增强功能。当用户使用某一项AI写作工具时,系统会将其所提供的历史信息转换为向量并存储于向量数据库中,构建本次对话的专属知识库,进而在随后的对话与需求响应时进行精准检索,提升回复的丰富性。例如,HIX Email Generator在帮助用户撰写邮件时,会整合用户提供的相关信息,生成要点详尽的邮件正文供用户选用。

基于GPU的Amazon EC2 G4实例加速RPA云上部署进程,提升多功能AI助手推理效率

HIX.AI的多功能助手提供丰富的AI辅助工具,应用机器人流程自动化(RPA)技术实现复杂任务自动化处理,为用户提供多场景下的智能化解决方案。随着HIX.AI服务用户数量的增长,之前自建IDC的部署逐渐暴露出了难以支持高并发任务、运维管理复杂等局限性。在将RPA迁移到云端的过程中,由于云上的Windows服务器环境与HIX.AI本地使用的环境存在差异,导致其云上部署进程受阻。

为此,亚马逊云科技团队迅速介入,通过Amazon EC2 G4实例支持运行Windows操作系统,确保HIX.AI的现有RPA流程无需重新设计即可平稳迁移。此外,该实例基于NVIDIA T4 GPU打造,可加速模型推理,为多功能AI助手提供了强大的算力支撑。最终,HIX.AI将该功能的云上部署时间,从原先预计的四到五周,缩短至三天以内。通过Amazon EC2 G4实例,HIX.AI成功克服了云上部署的技术挑战,并显著提升了推理效率,从而能以更快的开发速度,为全球用户打造功能丰富、使用体验优异的多功能AI助手。

图片

业务成果 | 1个月完成重点功能

开发与上线,综合成本降低30%

在生成式AI技术快速发展的背景下,HIX.AI通过与亚马逊云科技的合作,大幅提升了其产品开发和迭代能力,以AI搜索引擎的多语种支持为代表的重点功能,从开发到上线全程仅用时1个月。亚马逊云科技提供的托管服务让HIX.AI可以专注于功能优化,无需在基础设施运维方面进行大量投入,产品迭代升级时间也从以往的数天缩短至数小时,显著加快了新功能的上线速度。与此同时,亚马逊云科技的高可靠性基础设施确保了HIX.AI应用程序可用性达到99.99%,为全球用户提供了稳定、高效的服务体验。

生成式AI技术的商业化之路充满挑战,随着业务量增长,企业在大模型输出、后端模型调用和部署等方面经常遇到难题,若无专业指导,可能导致系统不稳定、后台限额、大模型幻觉、高昂计算成本等一系列问题。亚马逊云科技的技术团队不仅协助HIX.AI优化提示工程和调用架构,还提供了深度的多业务场景技术指导,显著提升了模型的准确性和业务适配度。Peter Zhou评价说:“在面对生成式AI技术应用的复杂挑战时,亚马逊云科技的技术团队快速响应,通过反复的场景打磨和定制化解决方案帮助我们突破业务瓶颈,加速产品落地和价值实现。”

同时,亚马逊云科技团队主动为HIX.AI提供了成本优化建议。其推荐的Amazon Graviton处理器采用Arm架构,相较于传统X86架构,资源消耗更低,性价比更高。通过亚马逊云科技灵活的定价模式Savings Plans,HIX.AI在项目中成功节省了30%的综合成本。从实例选型到流量管理,亚马逊云科技团队帮助HIX.AI减少资源浪费,进一步提高了成本效益。

未来,HIX.AI将在亚马逊云科技的支持下,进一步推进Amazon EC2 G4实例在模型推理场景中的深度应用,并基于Amazon Bedrock探索更多的产品功能与应用场景。通过不断丰富生成式AI工具类型,HIX.AI将继续拓展全球布局,为用户带来更高效、更智能的人工智能服务体验。

关于HIX.AI

图片

HIX.AI是一家专注于人工智能应用程序开发的科技公司,总部位于新加坡。HIX.AI业务涵盖AI写作工具、AI搜索引擎和多功能AI助手三大领域,致力于重新定义用户写作、沟通和完成工作的方式。用户群体分布在美国、德国、英国、法国、印度,以及东南亚和南美洲等国家和地区。在硅谷知名风险投资机构A16z于2024年8月发布的全球消费级生成式AI产品Top 100榜单中,HIX.AI排名第38位。

来源:亚马逊云科技

评论 0
同类信息