人工智能(
AI)市場持續升溫，但產業對于這些系統應如何建構仍十分分歧，大型科技公司動輒投入數十億美元購并新創公司或支持研發，各國政府也提供大學和研究機構大筆研究經費，希望在這波
AI競賽中脫穎而出。
據Semiconductor Engineering報導，研究機構Tractica的數據顯示，全球
AI市場規模將在2025年成長至368億美元，只不過目前對于
AI的定義或是需要分析的數據類型都還沒有共識，OneSpin Solutions總裁暨執行長Raik Brinkmann指出，眼下有三個問題需要解決，第一是大量待處理的數據，其次是并行處理和互連技術，第三則是移動大量數據導致的耗能問題。
目前市場首批
AI芯片幾乎都是以現成的
CPU、
GPU、
FPGA和DSP加以組合而成，盡管
英特爾(Intel)、Google、NVIDIA、高通(Qualcomm)和IBM等公司正研發新的設計，最后誰能勝出仍不明朗。無論如何，這些系統仍需有至少一個
CPU負責控制，但可能需要不同類型的協同
處理器。
AI處理多牽涉到矩陣乘法和加法，使用并行運作的
GPU成本較低，但缺點是耗能較高。內建DSP區塊和本地存儲器的
FPGA可獲得較佳的能源效率，但價格比較昂貴。Mentor Graphics董事長暨執行長Wally Rhines表示，有些人使用標準
GPU執行
深度學習，同時也有許多人采用
CPU，為了達到使類神經網路行為更像人腦的目標，刺激了新的一波設計浪潮。
視覺處理是目前最受關注的
AI區塊，目前大部分的
AI研究與自動駕駛使用的視覺處理有關，這項技術在無人機和機器人方面的應用也與日具增。Achronix公司總裁暨執行長Robert Blake指出，影像處理的運算復雜度很高，市場需要5~10年時間沉淀，不過因為變數精度(variable precision arithmetic)運算需要，可程式邏輯元件的角色會更吃重。
FPGA非常適合矩陣乘法，可程式化特性增加了設計上的彈性，用來做決策的數據部分會在本地處理，部分則由數據中心進行，但兩者的比例會因應用的不同而改變，并影響
AI芯片和軟件設計。
目前
汽車使用的
AI技術主要是偵測和避免物體，這和真正的
人工智能還有段差距。真正的
AI應該具有一定程度的推理，例如判斷如何閃避正在穿越馬路的人群。前者的推論為根據傳感器輸入的大量數據處理和預編程行為得來，后者則能夠作出價值判斷，思考各種可能后果以找出最佳選擇。
這樣的系統需要極高的頻寬并內建安全機制，此外還必須能保護數據安全，許多根據現成零件開發的設計很難兼顧運算和編程效率。Google試圖以專為機器學習開發的TPU特殊應用
芯片改變這樣的方程式，并開放TensorFlow平臺以加快
AI發展速度。
第一代
AI芯片將重點放在運算能力和異質性，但這就像早期的IoT裝置，在不確定市場如何演變的情況下，業者只好把所有東西都加進去，之后再找出瓶頸，針對特定功能設計，取得功率和性能上的平衡。
隨著自駕車使用案例的增加，
AI應用范圍也會逐漸擴大，這也是為何
英特爾在2016年8月收購Nervana的原因。Nervana開發的2.5D
深度學習芯片利用高性能
處理器核心將數據從載板移到高頻寬存儲器，希望比
GPU解決方案縮短100倍的
深度學習模型訓練時間。
量子運算則是
AI系統的另一個選擇。IBM研究部門副總裁Dario Gil解釋，如果4張卡片中有3張藍卡1張紅卡，使用傳統運算猜中紅卡的機率為4分之1，使用量子電腦及疊加量子位元的糾纏(entanglement)，系統每次都可以提供正確答案。
AI并沒有所謂最適合的單一系統，也沒有一種應用可以吃遍各種市場，這些進一步的細分市場都需要再精致化、再擴大尋找可用工具，并需要生態系統來支持，但低功率、高吞吐量及低延遲則是
AI系統的通用需求。
半導體產業經過多年仰賴制程微縮元件以改善功率，性能和成本，如今則需要重新思考進入新市場的方法。
