xartc.com

开发者智能编码助手精选

这篇文章为大家报告了四种领先的大型语言模型的实验结果。 OpenAI 的 GPT-4、Meta CodeLlama70B、Meta CodeLlama7B和Mistral Mixtral8x7B的任务是进行编码挑战,以评估哪一个在编码助手中占据主导地位。目的是评估他们的能力,并辨别哪种大模型对编码任务最有利。 对于GPT-4,这里选择了GTP-4 Turbo的最后一个版本(gpt-4-0125-preview),因为它纠正了其前身的一些“惰性”。 测试设置 此次比较是在 Visual Studio Code 中设置的,并通过“Continue”插件进行了增强,允许与每个 LLM 直接交互。 此设置反映了 GitHub Copilot 和 AWS Codewhisperer 等其它编码助手的功能,并为你的代码提供了更多的隐私控制(例如通过在私有服务器上运行 LLM)以及切换到最佳(或更便宜)的 LLM 的选项手头的任务。 我的设置如下图所示: 请大家注意,右端是我刚刚从 CodeLlama70B 得到的答案。 测试 LLM在编码的八个关键领域进行了评估: 代码生成它们根据需求从头开始制作代码片段或完整模块的能力。 代码解释和文档:它们阐明现有代码和创建有意义的文档的能力。…

Continue reading

开发者与OpenAI、ChatGPT 一起 “构建”下一个新时代

AI 对开发者的影响 在软件开发领域,ChatGPT 技术正在引领构建软件的下一个时代。在主要社交媒体平台正在显示两极分化的观点。 有些人认为引入这种对话式生成 AI 是革命性的和令人兴奋的,彻底改变了他们的日常工作流程。对于一些人来说,它带来了不确定性和风险——有缺陷和未经检查的代码进入生产环境的风险,甚至担心工作被裁掉。 关于是兴奋还是担心的争论可能会在中间的某个地方结束,虽然双方都有强烈的主张。有一种方法可以接近 ChatGPT,它可以真正改变开发人员构建和发布代码的方式。 一方面,ChatGPT 以我们以前从未见过的方式降低了编写软件的复杂性。我不禁想到人们在学习新的软件语言时最常见的途径,以及它是如何转变的。 花费数小时在搜索引擎上寻找示例代码或浏览论坛寻找答案可能是个旧方法可,那是走上 Blockbuster 或拆掉的固定电话的老路。老办法有时会给你答案,希望能给你一个完美解释,但你也可能比开始时询问时更困惑。 在“使用 ChatGPT 构建”时代,有开发者向该 AI 请求一个代码组件,它返回一段示例代码。人们很好奇,想知道这是如何解决这个问题的,并通过询问 ChatGPT 来测试这个想法,“请告诉我如何使用 LaunchDarkly 在 React 中编写功能标志。” 它出人意料地迅速返回了一个在两个带有功能标志的软件组件之间切换的示例。 当开发者进行第二次提问时,“你能用 Python 给我看一个例子吗?” 它很快给出了新的例子。这两个实例还包括分步示例,显示代码的含义和特定于 LaunchDarkly 的实施注意事项,甚至包括指向文档的链接。 但它是“复制粘贴”吗?不完全是。 即使在人工智能方面,学习正确的问题来提出,其本身就是一种艺术形式。 虽然此代码有效,但缺少代码的关键部分。LaunchDarkly…

Continue reading

大语言模型部署:vLLM 与量化技术

我们生活在一个令人惊叹的大型语言模型时代,例如 ChatGPT、GPT-4 和 Claude,它们可以执行多种令人叹为观止的任务。 许多部署工具来为 LLM 提供更快的推理服务,例如 vLLM、c2translate、TensorRT-LLM 和 llama.cpp。量化技术还用于优化 GPU 以加载非常大的语言模型。 延迟和吞吐量 影响大语言模型速度性能的一些主要因素是 GPU 硬件要求和模型大小。 模型规模越大,运行它所需的 GPU 计算能力就越多。用于测量大型语言模型的速度性能的常见基准指标是延迟和吞吐量。 延迟:这是大型语言模型生成响应所需的时间。它通常以秒或毫秒为单位进行测量。 吞吐量:这是大型语言模型每秒或毫秒生成的令牌数量。 安装所需的软件包 以下是运行大型语言模型所需的两个包:Hugging Face Transformer和accelerate。 pip3 install transformerpip3 install accelerate 什么是 Phi-2? Phi-2是微软提供的最先进的基础模型,拥有 27 亿个参数。它使用各种数据源(从代码到教科书)进行了预先训练。 使用 Hugging Face…

Continue reading

创建你的第一个使用 OpenAI ChatGPT API 的程序

OpenAI向所有人开放了ChatGPT的能力。现在可以将 ChatGPT 的强大功能无缝集成到自己的应用程序中。 完成这些初始步骤即可开始使用,无论您是希望将 ChatGPT 集成到现有应用程序中还是使用它开发新应用程序。 目前使用成本也比较优惠,目前价格为每 1000 个Token/0.002 美元。 此模型API目前与 Whisper API 一同提供,后面的API用来做文本到语音的解决方案。目前该 API 已经具备如下功能: 创建自定义对话代理或聊天机器人 能够帮助开发者编写 Python 代码 起草电子邮件或任何你需要的文档 可以将自然语言界面集成到当前的产品/应用/服务/软件中,为你的用户提供服务 自然语言翻译服务 成为许多学科的导师 模拟视频游戏的角色 OpenAI ChatGPT API: 入门指南 准备条件 请访问https://chat.openai.com/并创建一个账户,当然你也可以使用你的Google或微软账号登录。 创建一个账户后,生成一个专属于你的 API 密钥。只需要访问https://platform.openai.com/account/api-keys并创建一个新的秘密密钥。 创建…

Continue reading