非阻塞cache
计算机组织与体系结构问题 : 简要总结一下,采用哪几种技术手段可以加快...
1. 增加cache，利用空间局部性和时间局部性减少内存访问时间。2. cahe优化： 多级cache减少确实损失，非阻塞cache，流水化cache访问。3. 采用交叉存储方式提高内存带宽。4. 采用虚拟内存机制降低内存缺失损失。总体来说一句话，要有存储结构，上层的结构速度快，空间小，下层的机构速度慢，空间大。
缓存IO ,大多数系统的默认IO操作都是缓存IO,在linux的缓存IO机制中，操作系统会将IO的数据缓存在系统的页缓存(page cache)中，也就是说，数据会先被拷贝到操作系统内核的缓冲区，然后才会从操作系统内核的缓冲区拷贝到应用程序的地址空间。缓存IO的缺点： 数据在传输过程中需要在应用程序和地址空间和内核进行多次数据等我继续说。
1. 增加cache，利用空间局部性和时间局部性减少内存访问时间。2. cahe优化： 多级cache减少确实损失，非阻塞cache，流水化cache访问。3. 采用交叉存储方式提高内存带宽。4. 采用虚拟内存机制降低内存缺失损失。总体来说一句话，要有存储结构，上层的结构速度快，空间小，下层的机构速度慢，空间大。
缓存IO ,大多数系统的默认IO操作都是缓存IO,在linux的缓存IO机制中，操作系统会将IO的数据缓存在系统的页缓存(page cache)中，也就是说，数据会先被拷贝到操作系统内核的缓冲区，然后才会从操作系统内核的缓冲区拷贝到应用程序的地址空间。缓存IO的缺点： 数据在传输过程中需要在应用程序和地址空间和内核进行多次数据等我继续说。
于是各种流水线的“奇技淫巧”（指令级的并行，超标量，超流水等）就出现了～cache方面出现了预取，非阻塞，流水cache等技术在基础原理熟练掌握的前提下，再去看看这些进一步的优化吧，否则一头雾水。（以上回答仅为个人看法，如有错误希望您能批评指正）
可以看下Fikker webcahce 缓存服务器，Fikker作为一款专业性的WEB综合解决方案支持软件，一、产品特性1 高稳定、高效率2 非阻塞化（non-block）处理3 跨平台性4 界面化配置二、产品主要功能1 网站集群功能2 动态缓存加速3 实时监控4 防CC攻击防CC攻击一直是业界难以处理的问题，我们在等会说。
Redis和Memcached的区别 -
Memcached是多线程，非阻塞IO复用的网络模型，分为监听主线程和worker子线程，监听线程监听网络连接，接受请求后，将连接描述字pipe 传递给worker线程，进行读写IO, 网络层使用libevent封装的事件库，多线程模型可以发挥多核作用，但是引入了cache coherency和锁的问题，比如，Memcached最常用的stats 命令，实际Memcached所有操作都要有帮助请点赞。
文件系统缓存linux内核会将大部分空闲内存交给虚拟文件系统，来作为文件缓存，叫做page cache。在内存不足时，这部分内存会采用lru算法进行淘汰。通过free命令查看内存，显示为cached的部分就是文件缓存了。如果能找到当前使用场景下，文件被访问的统计特征，针对性的写一个淘汰算法，可以大幅提升文件缓存的命中希望你能满意。
CPU微架构学习--LSU -
load流水线在处理miss时，采用了策略性的禁用提前唤醒，以确保指令完整执行。miss时，会等待D-cache的填充并在Miss Status Holding Register（MSHR）中分配资源。如果分配失败，流水线会重新发起请求，这种非阻塞设计使得异常处理通过Replay From RS机制得以高效执行。Replay From RS：处理中的TLB Miss和指令有帮助请点赞。
主进程以root用户身份运行，而worker、cache loader和cache manager均应以非特权用户身份运行。主进程主要完成如下工作：注：如果负载以CPU密集型应用为主，如SSL或压缩应用，则worker数应与CPU数相同；如果负载以IO密集型为主，如响应大量内容给客户端，则worker数应该为CPU个数的1.5或2倍。Nginx的代码希望你能满意。
怎样才能让一个网站的并发量抗住100W+? -
如果有静态资源，还可以通过cdn服务来做cache加速访问。同样，后端如果有数据库，也需要做好主备和容灾，以及加一级缓存，可以通过redis或者memcache做。高并发的核心就是能通过内存或者缓存的绝不通过db，同时业务不要阻塞，一般都是使用非阻塞IO多路复用，比如linux上面的epoll等技术有帮助请点赞。
Memcached是多线程，非阻塞IO复用的网络模型，分为监听主线程和worker子线程，监听线程监听网络连接，接受请求后，将连接描述字pipe 传递给worker线程，进行读写IO, 网络层使用libevent封装的事件库，多线程模型可以发挥多核作用，但是引入了cache coherency和锁的问题，比如，Memcached最常用的stats 命令，实际Memcached所有操作都要等会说。