当前位置: 代码迷 >> 综合 >> paddlepaddle(二) 数据预处理
  详细解决方案

paddlepaddle(二) 数据预处理

热度:59   发布时间:2023-11-30 12:19:38.0

目录

1.内置数据集的预处理

2.自定义数据集的预处理


1.内置数据集的预处理

内置的图像数据集,在paddlepaddle.vision.transforms下内置了预处理的函数

from paddle.vision import transforms
print('transforms: ', transforms.__all__)#####
transforms:  ['BaseTransform', 'Compose', 'Resize', 'RandomResizedCrop', 'CenterCrop','RandomHorizontalFlip', 'RandomVerticalFlip', 'Transpose', 'Normalize', 
'BrightnessTransform', 'SaturationTransform', 'ContrastTransform', 'HueTransform','ColorJitter', 'RandomCrop', 'Pad', 'RandomRotation', 'Grayscale', 'ToTensor','to_tensor', 'hflip', 'vflip', 'resize', 'pad', 'rotate', 'to_grayscale', 'crop','center_crop', 'adjust_brightness', 'adjust_contrast', 'adjust_hue', 'normalize']

使用方式

直接使用:如水平翻转

import numpy as np
from PIL import Image
from paddle.vision.transforms import functional as F# 创建一个图像
fake_img = (np.random.rand(256, 300, 3) * 255.).astype('uint8')fake_img = Image.fromarray(fake_img)#翻转
flpped_img = F.hflip(fake_img)
print(flpped_img.size)######
(300, 256)

同时使用:使用Compose打包。可以同构以下方式随机调整图像的亮度、对比度、饱和度,并调整图像的大小,对图像的其他调整 

import paddle
from paddle.vision.transforms import Compose, Resize, ColorJitter# 定义想要使用的数据增强方式,这里包括随机调整亮度、对比度和饱和度,改变图片大小
transform = Compose([ColorJitter(), Resize(size=32)])# 通过transform参数传递定义好的数据增强方法即可完成对自带数据集的增强
train_dataset = paddle.vision.datasets.MNIST(mode='test', transform=transform)

2.自定义数据集的预处理

对于自定义的数据集,你可以在数据集的构造函数中进行数据增强方法的定义,之后对 __getitem__ 中返回的数据进行应用,就可以完成自定义数据增强。

import paddle
from paddle.io import Dataset
from paddle.vision.transforms import Compose, ResizeBATCH_SIZE = 64
BATCH_NUM = 20IMAGE_SIZE = (28, 28)
CLASS_NUM = 10class MyDataset(Dataset):def __init__(self, num_samples):super(MyDataset, self).__init__()self.num_samples = num_samples# 在 `__init__` 中定义数据增强方法,此处为调整图像大小self.transform = Compose([Resize(size=32)])def __getitem__(self, index):data = paddle.uniform(IMAGE_SIZE, dtype='float32')# 在 `__getitem__` 中对数据集使用数据增强方法data = self.transform(data.numpy())label = paddle.randint(0, CLASS_NUM-1, dtype='int64')return data, labeldef __len__(self):return self.num_samples# 测试定义的数据集
custom_dataset = MyDataset(BATCH_SIZE * BATCH_NUM)print('=============custom dataset=============')
for data, label in custom_dataset:print(data.shape, label.shape)break######
=============custom dataset=============
(32, 32) [1]

  相关解决方案