语言符号的“任意性”，是指用什么样的声音来表示什么样的意义是没有必然联系的，语音形式和内容意义之间最初只是一种约定，既没有任何内在联系，也没有什么道理可言。正因为如此，在不同的语言里，同样的意义可以用不同的声音来表示。如：汉语里“人”的语音形式在英语里就叫做men，不同语言之间的差异主要也就是由于它们各有各的约定而造成的。这种约定性，也就是语言符号的任意性。
语言符号的任意性是就语言起源时的情况来说的，语言符号的音义关系一经社会“约定”而进入交际之后，它对人们就带有强制性，要求所有说这种语言的人共同遵守它。少数人对这种“约定”的随意改动会造成交际上的混乱。综合以上两个方面，就是语言符号的“约定俗成”性质。