机器语言是计算机唯一能接受和执行的语言。机器语言由二进制码组成，每一串二进制码叫做一条指令。一条指令规定了计算机执行的一个动作。一台计算机所能懂得的指令的全体，叫做这个计算机的指令系统。不同型号的计算机的指令系统不同。
指令通常由几个字节组成，第一个字节是操作码，它规定了计算机要执行的基本操作；后面的字节是操作数，它规定了操作对象或操作对象的地址。
机器语言是直接用二进制代码指令表达的计算机语言，指令是用0和1组成的一串代码，它们有一定的位数，并分成若干段，各段的编码表示不同的含义，例如某台计算机字长为16位，即有16个二进制数组成一条指令或其它信息。16个0和1可组成各种排列组合，通过线路变成电信号，让计算机执行各种不同的操作。
如某种计算机的指令为1011011000000000，它表示让计算机进行一次加法操作；而指令1011010100000000则表示进行一次减法操作。它们的前八位表示操作码，而后八位表示地址码。从上面两条指令可以看出，它们只是在操作码中从左边第0位算起的第6和第7位不同。这种机型可包含256（=28）个不同的指令。
机器语言或称为二进制代码语言，计算机可以直接识别，不需要进行任何翻译。每台机器的指令，其格式和代码所代表的含义都是硬性规定的，故称之为面向机器的语言，也称为机器语言。它是第一代的计算机语言。机器语言对不同型号的计算机来说一般是不同的。
使用机器语言编写程序是一种相当烦琐的工作，既难于记忆也难于操作，编写出来的程序全是由0和1的数字组成，直观性差、难以阅读。不仅难学、难记、难检查、又缺乏通用性，给计算机的推广使用带来很大的障碍。
最早的程序设计语言都采用机器语言来编写。当时，要在计算机上运行的所有算法都必须直接用机器语言来表达，计算机才能接受。算法的运算序列包括运算对象和运算结果都必须转换为指令序列。其中的每一条指令都以编码(指令码和地址码)的形式出现。与算法语言表达的算法，相差十万八千里。对于没受过程序设计专门训练的人来说，一份程序恰似一份"天书"，让人看了不知所云，可读性极差。
用机器语言表达算法的运算、数据和控制十分繁杂琐碎，因为机器语言所提供的指令太初等、原始。机器语言只接受算术运算、按位逻辑运算和数的大小比较运算等。对于稍复杂的运算，都必须一一分解，直到到达最初等的运算才能用相应的指令替代之。机器语言能直接表达的数据只有最原始的位、字节、和字三种。算法中即使是最简单的数据如布尔值、字符、整数、和实数，也必须一一地映射到位、字节和字中，还得一一分配它们的存储单元。对于算法中有结构的数据的表达则要麻烦得多。机器语言所提供的控制转移指令也只有无条件转移、条件转移、进入子程序和从子程序返回等最基本的几种。用它们来构造循环、形成分支、调用函数和过程得事先做许多的准备，还得靠许多的技巧。
直接用机器语言表达算法有许多缺点。
大量繁杂琐碎的细节牵制着程序员，使他们不可能有更多的时间和精力去从事创造性的劳动，执行对他们来说更为重要的任务。如确保程序的正确性、高效性。
程序员既要驾驭程序设计的全局又要深入每一个局部直到实现的细节，即使智力超群的程序员也常常会顾此失彼，屡出差错，因而所编出的程序可靠性差，且开发周期长。
由于用机器语言进行程序设计的思维和表达方式与人们的习惯大相径庭，只有经过较长时间职业训练的程序员才能胜任，使得程序设计曲高和寡。
因为它的书面形式全是"密"码，所以可读性差，不便于交流与合作。
因为它严重地依赖于具体的计算机，所以可移植性差，重用性差。
为了克服机器语言上述的缺点，出路在于程序设计语言的抽象，让它尽可能地接近于算法语言。为此，人们首先注意到的是可读性和可移植性，因为它们相对地容易通过抽象而得到改善。于是，很快就出现汇编语言。这种语言对机器语言的抽象，首先表现在将机器语言的每一条指令符号化:指令码代之以记忆符号，地址码代之以符号地址，使得其含义显现在符号上而不再隐藏在编码中，可让人望"文"生义。其次表现在这种语言摆脱了具体计算机的限制，可在不同指令集的计算机上运行，只要该计算机配上汇编语言的一个汇编程序。这无疑是机器语言朝算法语言靠拢迈出的一步。但是，它离算法语言还太远，以致程序员还不能从分解算法的数据、运算和控制到汇编才能直接表达的指令等繁杂琐碎的事务中解脱出来。
用能反映指令功能的助记符表达的计算机语言叫汇编语言。它是符号化了的机器语言。用汇编语言编写的程序叫汇编语言源程序，计算机无法执行。必须用汇编程序把它翻译成机器语言目标程序，计算机才能执行。这个翻译过程称为汇编过程。
汇编语言是用助记符表示指令功能的计算机语言。与机器语言相比，汇编语言具有以下的几个特点：第一，它使用符号来表示操作码和地址码，这种符号便于记忆，称为记忆码。第二，汇编程序自动处理存储分配，毋需程序员做存储分配工作。第三，程序员可以直接书写十进制数`
例如，要计算c=7+8,可以用如下几条汇编命令：
标号 指令 说明
START GET 7； 把7送进累加器ACC中
ADD 8； 累加器ACC+8送进累加器ACC中
PUT C； 把累加器ACC送进C中
END STOP； 停机
其中（ACC）表示累加器中的值，等等。
如此简单的汇编语言，只是符号形式的机器语言，但用它来编写程序或阅读已经编写好的程序比起机器语言来要简单和方便多了。这就是计算机语言发展中的第二代语言—汇编语言。人们使用这种助记符编写程序后，要是计算机能够接受，还必须把编好的程序逐条翻译成二进制编码的机器语言。当然，这个工作并不是有程序员来完成，而是有称为“汇编程序”的程序自动完成的。汇编程序的功能就是把由汇编语言编写的程序（称为汇编语言源程序）翻译成机器语言程序，计算机才能执行该程序。这个翻译过程称为汇编。
汇编语言比起机器语言在很多方面都有很大的优越性，如编写容易、修改方便、阅读简单、程序清楚等，但在计算机语言系统中，把汇编语言仍然列入“低级语言”的范畴，它仍然是属于面向机器的语言，也就是说，不同的计算机可以有不同的指令集。