什么是时间复杂度?

我们先看看一些函数的渐近表达式:
在这里插入图片描述
关于时间复杂度的基本要点

  1. 时间复杂度反映的是随着问题规模的变大,计算所需的时间的增长速度,与系数的多少关系不大

  2. 算法的渐近时间复杂度,简称时间复杂度,很多时候为了便于理解,直接把时间复杂度等同于O()是可以的。

  3. 常见的时间复杂度,及其增长速度比较:

    O ( 1 ) < O ( l o g 2 n ) < O ( n ) < O ( n l o g 2 n ) < O ( n 2 ) < O ( n 3 ) < O ( 2 n ) < O ( n ! ) < O ( n n ) O(1)<O(log_2n)<O(n)<O(nlog_2n)<O(n^2 )<O(n^3)< O(2^n)<O(n!)<O(n^n) O(1)O(log2n)O(n)O(nlog2n)O(n2)<O(n3)<O(2n)O(n!)O(nn)

可以这么说,看到这里就已经基本掌握时间复杂度的概念了,对于分析常见时间复杂度问题是没问题的

当然,若想深入了解这块知识,请参考课本及其他博客,并耐心地看完下面的内容


定义及例子

(阅读时请结合例子理解)

一、大O记号(渐近上界记号)

定义1-1

设函数f(n)和g(n)是定义在非负整数集合上的正函数,如果存在两个正常数c和n0,使得当n≥n0时,有f(n)≤cg(n),则记做f(n) = O(g(n)),称为大O记号(big Oh notation) 称g(n)是f(n)的一个上界 注: f(n)的阶不高于g(n)

例1-1 f(n) = 2n + 3 = O(n)
当n≥3时,2n+3≤3n,

所以,可选c = 3,n0 = 3。对于n≥n0,f(n) = 2n + 3≤3n,

所以, f(n) = O(n) 。这意味着,当n≥3时,该程序步不会超过3n。


例1-2 f(n) = 10n2 + 4n + 2 = O(n2)
对于n≥2时,有10n2 + 4n + 2≤10n2 + 5n,

并且当n≥5时,5n≤n2, 因此,可选c = 11, n0 = 5;

对于n≥n0,f(n) = 10n2 + 4n + 2≤11n2, 所以f(n) = O(n2)。


例1-3 10n2 + 9 !=O(n)
使用反证法,假定存在c和n0,使得对于n≥n0,10n2 + 9≤cn始终成立,

那么有10n + 9/n≤c,即n≤c/10 - 9/(10n)总成立。

但此不等式不可能总成立,取n = c/10 + 1时,该不等式便不再成立。


重要定理

在这里插入图片描述

渐近时间复杂度

使用大O记号及下面定义的几种渐近表示法表示的算法时间复杂度,

称为算法的渐近时间复杂度(asymptotic complexity),简称时间复杂度

适当选择关键操作,算法的渐近时间复杂度可以由关键操作的执行次数之和来计算

一般地,关键操作的执行次数与问题的规模有关,是n的函数

【程序1-4】 矩阵乘法
for(i=0; i<n; i++//n+1
   for(j=0; j<n; j++{                           		//n(n+1)
       c[i][j]=0;                                       //n2
       for(k=0; k<n; k++//n2(n+1)
             c[i][j]+=a[i][k]*b[k][j];                  //n3
   }

总的时间: n 3 + n 2 ( n + 1 ) + n 2 + n ( n + 1 ) + n + 1 = 2 n 3 + 3 n 2 + 2 n + 1 n^3+ n^2(n+1)+ n^2+ n(n+1)+ n+1 =2n^3+3n^2+2n+1 n3+n2(n+1)+n2+n(n+1)+n+1=2n3+3n2+2n+1
渐进时间复杂度: O ( n 3 ) O(n^3) O(n3)


大O运算规则:

(1) O(f)+O(g)=O(max(f, g))
(2) O(f)+O(g)=O(f+g)
(3) O(f)O(g)=O(fg)
(4) 如果g(N)=O(f(N)), 则O(f)+O(g)=O(f)
(5) O(Cf(N))=O(f(N)), 其中C是一个正常数
(6) f=O(f)


二、Ω记号(渐近下界记号)

定义2-2

设有函数f(n)和g(n)是定义在非负整数集合上的正函数,如果存在两个正常数 c和n0,使得当n≥n0时,有f(n)≥c g(n),则记做f(n) = Ω (g(n)),称为Ω记号(omega notation)。 注: f(n)的阶不低于g(n)
(Ω的相关概念实际上就是O(n)颠倒过来)

例1-5 f(n) = 2n + 3 =Ω(n)
对所有n,2n+3≥2n,可选c = 2,n0=0。

对于n≥n0,f(n) = 2n+3≥2n,所以,f(n) = Ω(n),即2n + 3∈Ω(n)。


例1-6 f(n) = 10n2 + 4n + 2 = Ω(n2)
对所有n,10n2 + 4n + 2≥10n2,可选c = 10,n0 = 0。

对于n≥n0,f(n) = 10n2 + 4n + 2≥10n2,所以,f(n) =Ω(n^2)。


重要定理

在这里插入图片描述


三、 θ记号(紧渐近界记号)

定义1-3

设有函数f(n)和g(n)是定义在非负整数集合上的正函数,如果存在正常数c1,c2和n0,使得当n≥n0时,有c1 g(n)≤f(n)≤c2 g(n),则记做f(n) = θ(g(n)),称为θ记号(Theta notation)。 注:此时f(n)和g(n)同阶

例1-7 f(n) = 2n + 3 = θ(n)
例1-8 f(n) = 10n2 + 4n + 2 = θ(n^2)


四、算法按时间复杂度分类

多项式时间算法

凡渐近时间复杂度有多项式时间限界的算法称做多项式时间算法(polynomial time algorithm)

O ( 1 ) < O ( l o g n ) < O ( n ) < O ( n l o g n ) < O ( n 2 ) < O ( n 3 ) O(1)<O(log n)<O(n)<O(nlog n)<O(n^2)<O(n^3) O(1)O(logn)O(n)O(nlogn)O(n2)O(n3)

指数时间算法

渐近时间复杂度为指数函数限界的算法称做指数时间算法(exponential time algorithm)

O ( 2 n ) < O ( n ! ) < O ( n n ) O(2^n)<O(n!)<O(n^n) O(2n)O(n!)O(nn)

时间复杂度增长示意图

在这里插入图片描述

判断时间复杂度是否为准确值相关定理
  1. 如果存在正常数n0, 使得当n≥n0时有f(n)>0, g(n)>0
    并且 lim ⁡ n → ∞ f ( n ) g ( n ) = 0 \lim\limits_{n\to\infty}\frac{f(n)}{g(n)}=0 nlimg(n)f(n)=0,则f(n)=O(g(n))

  2. 如果存在正常数n0, 使得当n≥n0时有f(n)>0, g(n)>0
    并且 lim ⁡ n → ∞ f ( n ) g ( n ) = c \lim\limits_{n\to\infty}\frac{f(n)}{g(n)}=c nlimg(n)f(n)=c,则f(n)=θ(g(n))

书上相关例题参考答案:

在这里插入图片描述

转载

传送门

Logo

开放原子开发者工作坊旨在鼓励更多人参与开源活动,与志同道合的开发者们相互交流开发经验、分享开发心得、获取前沿技术趋势。工作坊有多种形式的开发者活动,如meetup、训练营等,主打技术交流,干货满满,真诚地邀请各位开发者共同参与!

更多推荐