面试题:上亿条数据快速找到一条你想要的数据(几种简单的算法)
liuian 2025-10-14 01:03 6 浏览
以下是几种适用于海量数据查找的简单算法及其适用场景,无需复杂系统设计即可实现快速检索:
1. 二分查找(Binary Search)
核心思想
在有序数据集中,每次比较中间元素,缩小搜索范围。
时间复杂度:O(log n)
适用场景:
- 数据已排序(如数组、文件按主键有序存储)。
- 精确查找(如根据ID找记录)。
实现步骤
- 数据按目标字段排序(如ID升序)。
- 每次取中间值比较:
- 等于目标值 → 找到结果。
- 小于目标值 → 在右半部分继续查找。
- 大于目标值 → 在左半部分继续查找。
优化变种
- 插值查找:根据目标值分布预估中间位置,适合均匀分布数据。
示例代码
python
复制
def binary_search(arr, target):
left, right = 0, len(arr) - 1
while left <= right:
mid = (left + right) // 2
if arr[mid] == target:
return mid
elif arr[mid] < target:
left = mid + 1
else:
right = mid - 1
return -1
2. 哈希表(Hash Table)
核心思想
通过哈希函数将键(Key)映射到存储位置,实现直接访问。
时间复杂度:平均O(1),最坏O(n)(哈希冲突时)
适用场景:
- 精确查找(如根据用户名找用户信息)。
- 内存足够容纳哈希表(如Redis缓存)。
实现步骤
- 设计哈希函数(如取模、MD5)。
- 插入数据时,计算键的哈希值,存入对应位置。
- 查找时,直接通过哈希值定位数据。
关键问题
- 哈希冲突:
- 解决方法:链地址法(链表存冲突项)、开放寻址法(线性探测)。
- 动态扩容:当负载因子过高时,重建更大的哈希表。
示例代码
python
复制
class HashTable:
def __init__(self):
self.size = 1000
self.table = [[] for _ in range(self.size)] # 链地址法
def _hash(self, key):
return hash(key) % self.size
def insert(self, key, value):
h = self._hash(key)
for item in self.table[h]:
if item[0] == key:
item[1] = value
return
self.table[h].append([key, value])
def search(self, key):
h = self._hash(key)
for item in self.table[h]:
if item[0] == key:
return item[1]
return None
3. 布隆过滤器(Bloom Filter)
核心思想
通过多个哈希函数和位数组,快速判断数据是否不存在(可能存在误判)。
时间复杂度:O(k)(k为哈希函数数量)
适用场景:
- 预过滤不存在的数据(如黑名单检查、爬虫URL去重)。
- 容忍一定误判率(可降低后续查询压力)。
实现步骤
- 初始化一个长度为m的位数组(全0)。
- 插入数据时,用k个哈希函数计算位置,将对应位设为1。
- 查询时,若所有哈希位均为1 → 可能存在;否则一定不存在。
关键参数
- 误判率公式:p≈(1-e-kn/m)kp≈(1-e-kn/m)k
- 增大m(位数组长度)或k(哈希函数数量)可降低误判率。
示例代码
python
复制
import mmh3
class BloomFilter:
def __init__(self, size, hash_num):
self.size = size
self.hash_num = hash_num
self.bit_array = [0] * size
def add(self, item):
for seed in range(self.hash_num):
index = mmh3.hash(item, seed) % self.size
self.bit_array[index] = 1
def contains(self, item):
for seed in range(self.hash_num):
index = mmh3.hash(item, seed) % self.size
if self.bit_array[index] == 0:
return False
return True # 可能存在(有一定误判率)
4. B树/B+树(B-Tree/B+ Tree)
核心思想
多路平衡搜索树,减少磁盘I/O次数(适合数据库索引)。
时间复杂度:O(log n)(树高度决定)
适用场景:
- 数据存储在磁盘(如数据库、文件系统)。
- 支持范围查询(B+树叶子节点链表连接)。
核心特性
- B树:每个节点存储键和数据,适合随机访问。
- B+树:数据仅存于叶子节点,叶子节点通过指针连接,适合顺序扫描。
实现示例
(以B+树为例)
text
复制
构建过程:
1. 定义节点容量(如最多3键值)。
2. 插入数据时,按排序规则找到叶子节点,若溢出则分裂节点。
3. 查询时,从根节点逐层向下查找,直到叶子节点。
5. 倒排索引(Inverted Index)
核心思想
建立关键词到文档的映射表,加速搜索(如搜索引擎)。
时间复杂度:O(1)(哈希表实现关键词定位)。
适用场景:
- 文本内容检索(如根据关键词找文章)。
- 多条件组合查询(如“北京 AND 旅游”)。
实现步骤
- 分词:将文档内容拆分为关键词。
- 构建索引:记录每个关键词出现的文档ID列表。
- 查询时,取关键词对应的文档ID交集/并集。
示例结构
text
复制
倒排索引表:
"算法" → [1, 3, 5]
"数据" → [2, 3, 4]
查询“算法 AND 数据” → 交集 [3]
总结
算法 | 适用场景 | 优点 | 缺点 |
二分查找 | 有序数据精确查找 | 简单高效 | 要求数据预排序 |
哈希表 | 内存中精确查找 | 平均O(1)时间复杂度 | 内存消耗大,无法范围查询 |
布隆过滤器 | 快速排除不存在的数据 | 空间效率高 | 存在误判率 |
B+树 | 磁盘存储数据索引 | 适合范围查询,减少I/O | 实现复杂度较高 |
倒排索引 | 文本内容检索 | 支持关键词组合查询 | 需预处理构建索引 |
选择建议:
- 数据有序 → 二分查找。
- 内存足够且需精确查找 → 哈希表。
- 预过滤不存在的键 → 布隆过滤器。
- 磁盘存储且需范围查询 → B+树。
- 文本搜索 → 倒排索引。
相关推荐
- Python中的列表详解及示例_python列表讲解
-
艾瑞巴蒂干货来了,数据列表,骚话没有直接来吧列表(List)是Python中最基本、最常用的数据结构之一,它是一个有序的可变集合,可以包含任意类型的元素。列表的基本特性有序集合:元素按插入顺序存储可变...
- PowerShell一次性替换多个文件的名称
-
告别繁琐的文件重命名,使用PowerShell语言批量修改文件夹中的文件名,让您轻松完成重命名任务在日常工作中,我们经常需要对大量文件进行重命名,以便更好地管理和组织。之前,我们曾介绍过使用Pytho...
- 小白必看!Python 六大数据类型增删改查秘籍,附超详细代码解析
-
在Python中,数据类型可分为可变类型(如列表、字典、集合)和不可变类型(如字符串、元组、数值)。下面针对不同数据类型详细讲解其增删改查操作,并给出代码示例、输出结果及分析总结。1.列表(Li...
- python数据容器之列表、元组、字符串
-
数据容器分为5类,分别是:列表(list)、元组(tuple)、字符串(str)、集合(set)、字典(dict)list#字面量[元素1,元素2,元素3,……]#定义变量变量名称=[元素1,元素...
- python列表(List)必会的13个核心技巧(附实用方法)
-
列表(List)是Python入门的关键步骤,因为它是编程中最常用的数据结构之一。以下是高效掌握列表的核心技巧和实用方法:一、理解列表的本质可变有序集合:可随时修改内容,保持元素顺序混合类型:一个列表...
- 如何利用python批量修改文件名_python如何对文件进行批量命名
-
很多语言都可以做到批量修改文件名,今天我就给大家接受一下Python的方法,首选上需求。图片中有10个txt文件,现在我需要在这些文件名的前面全部加一个“学生”,可以吗?见证奇迹的时刻到了。我是怎么做...
- Python中使用re模块实现正则表达式的替换字符串操作
-
#编程语言#我是"学海无涯自学不惜!",关注我,一同学习简单易懂的Python编程。0基础学python(83)Python中,导入re模块后还可以进行字符串的替换操作,就是sub()...
- python列表十大常见问题,你遇到第几个?
-
Python列表常见问题及解决方案1.修改列表时的常见陷阱问题:在遍历时修改列表#错误做法:在遍历时删除元素会导致意外结果numbers=[1,2,3,4,5,6]forn...
- python入门007:编辑列表_python列表怎么写入文件
-
一、列表的编辑操作列表创建后,随着程序的运行,可以通过对列表元素的增删改操作来编辑列表。1、修改列表元素的值修改列表元素的操作方法与访问列表元素的方法类似。例如,要修改列表元素的值,先指定列表及元素...
- Python教程:在python中修改元组详解
-
欢迎你来到站长在线的站长学堂学习Python知识,本文学习的是《在Python中修改元组详解》。本知识点主要内容有:在Python中直接使用赋值运算符“=”给元组重新赋值、在Python中使用加赋值运...
- Python列表(List)一文全掌握:核心知识点+20实战练习题
-
Python列表(List)知识点教程一、列表的定义与特性定义:列表是可变的有序集合,用方括号[]定义,元素用逗号分隔。list1=[1,"apple",3.14]lis...
- Python教程-列表复制_python对列表进行复制
-
作为软件开发者,我们总是努力编写干净、简洁、高效的代码。Python列表是一种多功能的数据结构,它允许你存储一个项目的集合。在Python中,列表是可变的,这意味着你可以在创建一个列表后改变它的...
- Python入门学习教程:第 6 章 列表
-
6.1什么是列表?在Python中,列表(List)是一种用于存储多个元素的有序集合,它是最常用的数据结构之一。列表中的元素可以是不同的数据类型,如整数、字符串、浮点数,甚至可以是另一个列表。列...
- Python列表、元组、字典和集合_python中的列表元组和字典
-
Python中的列表(List)、元组(Tuple)、字典(Dict)和集合(Set)是四种最常用的核心数据结构。掌握它们的基础操作只是第一步,真正发挥威力的是那些高级用法和技巧。首先我们先看一下这...
- 学习编程第167天 python编程 使用format方法灵活替换字符串
-
今天学习的是刘金玉老师零基础Python教程第51期,主要内容是python编程使用format方法灵活替换字符串。一、format方法(一)format方法是字符串自带的方法,使用的format方法...
- 一周热门
- 最近发表
- 标签列表
-
- python判断字典是否为空 (50)
- crontab每周一执行 (48)
- aes和des区别 (43)
- bash脚本和shell脚本的区别 (35)
- canvas库 (33)
- dataframe筛选满足条件的行 (35)
- gitlab日志 (33)
- lua xpcall (36)
- blob转json (33)
- python判断是否在列表中 (34)
- python html转pdf (36)
- 安装指定版本npm (37)
- idea搜索jar包内容 (33)
- css鼠标悬停出现隐藏的文字 (34)
- linux nacos启动命令 (33)
- gitlab 日志 (36)
- adb pull (37)
- python判断元素在不在列表里 (34)
- python 字典删除元素 (34)
- vscode切换git分支 (35)
- python bytes转16进制 (35)
- grep前后几行 (34)
- hashmap转list (35)
- c++ 字符串查找 (35)
- mysql刷新权限 (34)