在产品开发过程中添加人工智能总是值得的吗？ | 商业人工智能#55

人工智能常常给人留下耀眼的第一印象！ 从那时起，我们开始思考改进设计流程和创造新产品的迷人可能性。 借助机器学习算法，人工智能系统可以分析大量数据，生成概念和原型，并以以前无法达到的精度优化设计参数。 在数字化转型时代，人工智能似乎成为现代企业寻求竞争优势不可或缺的工具。 然而，正如新技术的情况一样，它在带来好处的同时也带来了一些挑战。 下面，我们将仔细研究在此过程中集成人工智能的积极方面和潜在陷阱

人工智能在产品开发过程中的作用

人工智能可以支持新产品设计和实施过程的许多方面。 通常这是一个好主意，主要好处包括：

• 市场研究——通过自动化重复性任务（例如调查分析或访谈转录）可以加速研究或进行更大规模的研究。 这使得团队能够专注于产品开发中更具创造性和挑战性的方面，
• 新灵感——促进获得更广泛的想法是生成人工智能的主要优势之一。 人工智能算法可以在巨大的数据库中搜索超出设计师先前思维的未知模式和概念，
• 深入的数据分析——通过处理目标客户的行为、偏好和购买动机数据，更好地了解目标客户的需求。

但是，什么时候在使用人工智能协作之前再三考虑是个好主意呢？

特写：实施人工智能的隐藏挑战

尽管人工智能在产品开发过程中意味着许多新机遇，但其实施并非没有挑战。 其中最重要的是：

• 需要彻底培训产品团队并调整现有工作流程以与人工智能系统集成。 在大型的、层级化的组织中，这可能会很困难，组织中的专家都遵循传统的工作方式，
• 对训练人工智能算法的客户数据的安全性的担忧。 为了利用额外的安全功能，公司通常需要可能超出小型组织预算的企业许可协议。 这就是为什么小公司有时会选择小规模合并开放获取模型，例如 Llama 2、Vicuna 或 Alpaca。 诚然，他们需要公司更强大的硬件，但他们提供数据安全。 这是因为机器学习模型依赖于敏感的个人信息。 如果安全措施设置不当，信息泄露可能会对公司形象造成灾难性后果，
• 涉及人工智能系统的关键业务决策的复杂性和责任分散化。 谁对这些系统的任何错误承担财务和声誉责任？ 如何确保对人工智能“黑匣子”的监管？

黑匣子陷阱。 人工智能决策缺乏透明度

神经网络等先进机器学习技术的基本缺点之一是决策缺乏透明度。 这些系统就像“黑匣子”一样，将输入转化为期望的结果，但无法理解底层逻辑。

这使得确保用户对人工智能生成的推荐的信心变得非常困难。 如果我们不明白系统为什么建议特定的产品变体或概念，就很难评估该建议的敏感性。 这可能会导致对整个技术的不信任。

在产品开发中使用人工智能的公司需要意识到“黑匣子”问题，并采取措施提高其解决方案的透明度。 解决方案的示例包括：

• 神经网络中数据流的可视化，或
• 由附加算法生成的决策的文本解释。

人工智能和道德。 如何避免歧视和偏见？

另一个重要问题是与人工智能相关的潜在伦理问题。 机器学习系统通常依赖于存在各种偏见且缺乏代表性的数据。 这可能导致歧视性或不公平的商业决策。

例如，根据公司的历史招聘模式，亚马逊的招聘算法似乎有利于男性候选人。 使用机器学习开发应用程序时可能会发生类似的情况：

• 设定客户服务优先级，
• 广告定位，
• 建议邻近领域的专家，或
• 个性化产品建议。

为了避免此类问题，公司需要仔细分析他们使用的数据集，以充分代表不同的人口群体，并定期监控人工智能系统是否存在歧视或不公平的迹象。

算法的局限性。 过程中的人工智能

人工智能可以支持创意过程、寻找想法并优化解决方案。 然而，选择完全信任人工智能的企业仍然很少。 在内容创建过程中使用人工智能提供了令人难以置信的机会，但发布或检查生成材料中包含的信息的最终决定必须由人工输入做出。

因此，设计师和产品经理需要意识到人工智能技术的局限性，并将其视为现成解决方案的支持而不是自动来源。 关键设计和业务决策仍然需要创造力、直觉和对客户的深刻理解，而这些仅靠算法无法提供

来源：DALL-E 3，提示：Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

确保控制和法律合规性

为了最大限度地降低人工智能风险，公司需要对这些系统实施适当的监督和控制机制。 这包括但不限于：

• 在实际使用之前验证人工智能模型生成的信息的正确性和来源，
• 对机器学习算法的偏差、预测不确定性和决策透明度进行审计，
• 建立专家或道德委员会来监督公司内人工智能系统的设计、测试和应用，
• 制定关于可接受的人工智能应用程序的明确指南以及这些系统对业务流程和设计决策的干扰限制，
• 培训设计师了解其局限性和陷阱，以避免过于不加批判地依赖其指示。

概括

总而言之，人工智能无疑为优化和加速新产品的设计和实施开辟了令人兴奋的前景。 然而，它与遗留系统和实践的集成并非没有挑战，其中一些是根本性的，例如不确定性和缺乏预测透明度。

为了充分利用人工智能的潜力，公司必须以适当的谨慎和批评态度对待它，了解该技术的局限性。 制定道德框架和控制程序也至关重要，以最大限度地减少在实际业务流程中实施先进算法所带来的风险。 只有这样，人工智能才能成为人类创造力和直觉的有价值且安全的补充。

如果您喜欢我们的内容，请在 Facebook、Twitter、LinkedIn、Instagram、YouTube、Pinterest、TikTok 上加入我们的忙碌蜜蜂社区。

作者：罗伯特·惠特尼

JavaScript 专家和 IT 部门的讲师。 他的主要目标是通过教其他人如何在编码时有效合作来提高团队生产力。

查看所有帖子

商业人工智能：

1. 人工智能在商业中的威胁和机遇（第 1 部分）
2. 人工智能在商业中的威胁和机遇（第 2 部分）
3. 人工智能在商业中的应用 - 概述
4. 人工智能辅助文本聊天机器人
5. 商业 NLP 的今天和明天
6. 人工智能在商业决策中的作用
7. 安排社交媒体帖子。 人工智能有何帮助？
8. 自动社交媒体帖子
9. 利用人工智能运行的新服务和产品
10. 我的经营理念有哪些弱点？ ChatGPT 的头脑风暴会议
11. 在商业中使用 ChatGPT
12. 合成演员。 排名前 3 的 AI 视频生成器
13. 3 个有用的 AI 图形设计工具。 商业中的生成式人工智能
14. 今天你必须尝试的 3 位出色的人工智能作家
15. 探索人工智能在音乐创作中的力量
16. 使用 ChatGPT-4 探索新的商机
17. 经理的人工智能工具
18. 6 个很棒的 ChatGTP 插件，让您的生活更轻松
19. 3 绘图人工智能。 商业情报总局
20. 麦肯锡全球研究院认为人工智能的未来是什么？
21. 商业人工智能 - 简介
22. 什么是 NLP，即商业中的自然语言处理
23. 自动文档处理
24. 谷歌翻译 vs DeepL。 机器翻译的 5 个商业应用
25. 语音机器人的运营和商业应用
26. 虚拟助理技术，或者说如何与AI对话？
27. 什么是商业智能？
28. 人工智能会取代商业分析师吗？
29. 人工智能如何帮助 BPM？
30. 人工智能和社交媒体——它们对我们有何评价？
31. 内容管理中的人工智能
32. 今天和明天的创意人工智能
33. 多模态人工智能及其在商业中的应用
34. 新的互动。 人工智能如何改变我们操作设备的方式？
35. 数字公司中的 RPA 和 API
36. 未来的就业市场和即将到来的职业
37. 教育科技中的人工智能。 发挥人工智能潜力的 3 个公司示例
38. 人工智能与环境。 3 个人工智能解决方案可帮助您建立可持续发展的业务
39. AI 内容检测器。 他们值得吗？
40. ChatGPT vs Bard vs Bing。 哪个人工智能聊天机器人在这场竞赛中处于领先地位？
41. 聊天机器人人工智能是谷歌搜索的竞争对手吗？
42. 有效的 ChatGPT 人力资源和招聘提示
43. 及时工程。 即时工程师做什么的？
44. AI 模型生成器。 四大工具
45. 人工智能还有什么？ 2024 年商业顶级技术趋势
46. 人工智能和商业道德。 为什么您应该投资道德解决方案
47. 元人工智能。 关于 Facebook 和 Instagram 的人工智能支持功能，您应该了解哪些？
48. 人工智能监管。 作为一名企业家你需要了解什么？
49. 人工智能在商业中的 5 个新用途
50. 人工智能产品和项目——它们与其他产品和项目有何不同？
51. 人工智能辅助流程自动化。 从哪儿开始？
52. 如何将人工智能解决方案与业务问题相匹配？
53. 人工智能作为您团队中的专家
54. AI团队与角色分工
55. 人工智能职业领域如何选择？
56. 在产品开发过程中添加人工智能总是值得的吗？