chore: import upstream snapshot with attribution
This commit is contained in:
wehub-resource-sync
@@ -0,0 +1,181 @@
|
||||
// Copyright (c) 2022 PaddlePaddle Authors. All Rights Reserved.
|
||||
//
|
||||
// Licensed under the Apache License, Version 2.0 (the "License");
|
||||
// you may not use this file except in compliance with the License.
|
||||
// You may obtain a copy of the License at
|
||||
//
|
||||
// http://www.apache.org/licenses/LICENSE-2.0
|
||||
//
|
||||
// Unless required by applicable law or agreed to in writing, software
|
||||
// distributed under the License is distributed on an "AS IS" BASIS,
|
||||
// WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
|
||||
// See the License for the specific language governing permissions and
|
||||
// limitations under the License.
|
||||
|
||||
#include "paddle/phi/kernels/diagonal_kernel.h"
|
||||
|
||||
#include "paddle/phi/backends/gpu/gpu_primitives.h"
|
||||
#include "paddle/phi/core/kernel_registry.h"
|
||||
#include "paddle/phi/core/tensor_utils.h"
|
||||
#include "paddle/phi/kernels/full_kernel.h"
|
||||
#include "paddle/phi/kernels/funcs/diagonal.h"
|
||||
namespace phi {
|
||||
template <typename T, typename Context>
|
||||
void DiagonalKernel(const Context& dev_ctx,
|
||||
const DenseTensor& x,
|
||||
int offset,
|
||||
int axis1,
|
||||
int axis2,
|
||||
DenseTensor* out) {
|
||||
if (x.numel() == 0) {
|
||||
Full<T, Context>(dev_ctx, out->dims(), 0, out);
|
||||
return;
|
||||
}
|
||||
auto* input = &x;
|
||||
const auto* input_data = input->data<T>();
|
||||
auto input_dim = input->dims().Get();
|
||||
auto input_dim_size = input->dims().size();
|
||||
|
||||
std::vector<int64_t> res_in = vectorize(common::stride(input->dims()));
|
||||
DenseTensor input_stride_tensor;
|
||||
TensorFromVector<int64_t>(res_in, dev_ctx, &input_stride_tensor);
|
||||
int64_t* input_stride = input_stride_tensor.data<int64_t>();
|
||||
|
||||
auto* output = out;
|
||||
auto* output_data = dev_ctx.template Alloc<T>(out);
|
||||
auto output_dim = output->dims().Get();
|
||||
auto output_dim_size = output->dims().size();
|
||||
|
||||
std::vector<int64_t> res_out = vectorize(common::stride(output->dims()));
|
||||
DenseTensor output_stride_tensor;
|
||||
TensorFromVector<int64_t>(res_out, dev_ctx, &output_stride_tensor);
|
||||
int64_t* output_stride = output_stride_tensor.data<int64_t>();
|
||||
|
||||
const int64_t offset_ = offset;
|
||||
int64_t axis1_ = axis1 < 0 ? input_dim_size + axis1 : axis1;
|
||||
int64_t axis2_ = axis2 < 0 ? input_dim_size + axis2 : axis2;
|
||||
int64_t numel = input->numel();
|
||||
int64_t out_numel = out->numel();
|
||||
|
||||
int threads = PADDLE_CUDA_NUM_THREADS;
|
||||
int64_t blocks_max = dev_ctx.GetCUDAMaxGridDimSize()[0];
|
||||
int blocks = std::min((out_numel + threads - 1) / threads, blocks_max);
|
||||
|
||||
switch (input_dim_size) {
|
||||
case 2:
|
||||
funcs::DiagonalCuda<T, 2, 1><<<blocks, threads>>>(input_data,
|
||||
output_data,
|
||||
offset_,
|
||||
axis1_,
|
||||
axis2_,
|
||||
input_stride,
|
||||
output_stride,
|
||||
numel,
|
||||
out_numel,
|
||||
false);
|
||||
break;
|
||||
case 3:
|
||||
funcs::DiagonalCuda<T, 3, 2><<<blocks, threads>>>(input_data,
|
||||
output_data,
|
||||
offset_,
|
||||
axis1_,
|
||||
axis2_,
|
||||
input_stride,
|
||||
output_stride,
|
||||
numel,
|
||||
out_numel,
|
||||
false);
|
||||
break;
|
||||
case 4:
|
||||
funcs::DiagonalCuda<T, 4, 3><<<blocks, threads>>>(input_data,
|
||||
output_data,
|
||||
offset_,
|
||||
axis1_,
|
||||
axis2_,
|
||||
input_stride,
|
||||
output_stride,
|
||||
numel,
|
||||
out_numel,
|
||||
false);
|
||||
break;
|
||||
case 5:
|
||||
funcs::DiagonalCuda<T, 5, 4><<<blocks, threads>>>(input_data,
|
||||
output_data,
|
||||
offset_,
|
||||
axis1_,
|
||||
axis2_,
|
||||
input_stride,
|
||||
output_stride,
|
||||
numel,
|
||||
out_numel,
|
||||
false);
|
||||
break;
|
||||
case 6:
|
||||
funcs::DiagonalCuda<T, 6, 5><<<blocks, threads>>>(input_data,
|
||||
output_data,
|
||||
offset_,
|
||||
axis1_,
|
||||
axis2_,
|
||||
input_stride,
|
||||
output_stride,
|
||||
numel,
|
||||
out_numel,
|
||||
false);
|
||||
break;
|
||||
case 7:
|
||||
funcs::DiagonalCuda<T, 7, 6><<<blocks, threads>>>(input_data,
|
||||
output_data,
|
||||
offset_,
|
||||
axis1_,
|
||||
axis2_,
|
||||
input_stride,
|
||||
output_stride,
|
||||
numel,
|
||||
out_numel,
|
||||
false);
|
||||
break;
|
||||
case 8:
|
||||
funcs::DiagonalCuda<T, 8, 7><<<blocks, threads>>>(input_data,
|
||||
output_data,
|
||||
offset_,
|
||||
axis1_,
|
||||
axis2_,
|
||||
input_stride,
|
||||
output_stride,
|
||||
numel,
|
||||
out_numel,
|
||||
false);
|
||||
break;
|
||||
case 9:
|
||||
funcs::DiagonalCuda<T, 9, 8><<<blocks, threads>>>(input_data,
|
||||
output_data,
|
||||
offset_,
|
||||
axis1_,
|
||||
axis2_,
|
||||
input_stride,
|
||||
output_stride,
|
||||
numel,
|
||||
out_numel,
|
||||
false);
|
||||
break;
|
||||
default:
|
||||
PADDLE_THROW(errors::InvalidArgument(
|
||||
"The rank of input should be less than 10, but received %d.",
|
||||
input_dim_size));
|
||||
}
|
||||
}
|
||||
} // namespace phi
|
||||
|
||||
PD_REGISTER_KERNEL(diagonal,
|
||||
GPU,
|
||||
ALL_LAYOUT,
|
||||
phi::DiagonalKernel,
|
||||
float,
|
||||
double,
|
||||
int,
|
||||
int64_t,
|
||||
bool,
|
||||
phi::float16,
|
||||
phi::bfloat16,
|
||||
phi::complex64,
|
||||
phi::complex128) {}
|
||||
Reference in New Issue
Block a user