现在的位置: 首页 > 综合 > 正文

《大规模 web服务开发》笔记

2012年09月22日 ⁄ 综合 ⁄ 共 807字 ⁄ 字号 评论关闭

大规模服务:
    可扩展,负载均衡,保证冗余,低运维成本,开发人数和开发方法的变化
数据处理:
    磁盘—>内存—>缓存—>CPU
障碍:
    持续增长的服务,”无法在内存中计算“(内存要比磁盘快10^5~10^6倍)
 
Linux的页面缓存:
    先把磁盘内容读入内存
    ——>建立页面
    建立好的页面不会释放而是保存下来
    ——>页面缓存
    除了例外情况,页面缓存会透明地作用在所有I/O上
    ——>例外的情况为负责磁盘缓存部分(VFS)
 
VFS(Virtual File System):虚拟文件系统VFS作为一个抽象层,统一各个文件系统不同的函数,使之拥有共同接口,从而使用同样的机制同样的进行缓存,实现页面缓存以提高性能。
 
LRU(Least Recent Used):放弃最老的内容,留下最新的内容(其实就是个队列)。
 
sar工具:①追溯过去的统计数据 ②周期性地查看当前数据(详细内容见sar命令小结,麦库bigdata)
 
CPU扩展比较简单,可以借助于:
    增加相同结构的服务器,通过负载均衡器来进行分散;
    Web、应用程序服务器、爬虫
I/O负载的扩展十分困难,可借助于:
    数据库;
    大规模数据
 
处理大规模数据的重点:
    能在内存中完成多少?
        将磁盘寻道次数降到最低
        可以实现分布式、有效利用局部性
    能应对数据量增加的算法和数据结构
        例如:线性搜索——>二叉树搜索
                    O(n)--->O(log n)
        数据压缩 信息搜索技术
 
处理大规模数据中,程序开发的底层基础
    算法、压缩和搜索
 
写程序在处理大规模数据之前:
    注意操作系统缓存
    以分布式为前提的RDBMS应用
    算法和数据结构
 
以页面缓存为基础的运维的基本规则
    操作系统刚启动时不要将服务器投入生产环境
    性能测试最好在缓存优化后进行

抱歉!评论已关闭.