資訊承載意義嗎？ | 問題

切法

語意資訊同樣可以度量——用一個陳述所排除的可能性來衡量。

第一次認真嘗試把意義放回夏農的框架裡。至今仍未完成。

賦予意義一個邏輯形式——狀態描述、歸納機率——內容便能像夏農的位元一樣可度量。

為這套資訊度量提供了它所立足的形式語意學——讓意義變得嚴謹，即使尚未完整。

資訊有活的，也有死的。活細胞裡的 DNA 是一段具有因果力量的碼——貝特森所謂「造成差異的差異」；同一個分子，在死細胞裡就只是夏農的位元。資訊唯有在某物正以它進行計算時，才具有意義。

把意義繫於過程——夏農資訊與那更豐富的、演算法式的資訊之間的差別，就在於當下是否有東西正作用於它。

夏農刻意把意義擱在一旁；巴希列爾與卡納普在五年之內試著把它放回去，而這項嘗試至今仍未完成。每一個大型語言模型，都是對這個問題下的一場持續的賭注：意義——或某種與意義無從分辨之物——能否單從統計中被復原。